印尼因涉色情圖片臨時封禁馬斯克旗下聊天机器人Grok

事件概述

印尼當局於周六暫時封禁了埃隆·馬斯克的Grok聊天機器人，原因是擔心其會生成色情內容，這成為全球首個禁止類似人工智慧工具訪問的國家。

政府聲明與行動

印尼通信與數位部長穆蒂亞·哈菲德表示，政府認為未經同意的非自愿性深度偽造行為嚴重侵犯了人權、公民尊嚴以及數位空間中的公民安全。

該部門已召見X公司的高層主管，就此事進行商討。

國際反應與爭議

• 歐洲至亞洲多國政府及監管機構已譴責該應用上的色情內容，並展開調查。
• 印度政府已致函社交平台X，要求對Grok進行全面審查，確保不會生成包含「裸露、性化、露骨色情內容或其他非法內容」的素材。
• 有公司指出，Grok可公開訪問的照片流中，每分鐘檢測到一張未經同意的色情化圖片，部分用戶將該工具對準兒童。
• 馬斯克前伴侶的童年照片遭惡意修改，引發爭議並揚言提告。

技術背景

Grok Imagine是一個AI圖像生成器，允許用戶透過輸入文本提示來創建圖片和影片，並包含所謂的「熱辣模式」，可生成成人內容。

來源：https://www.panewslab.com/zh/articles/81d230db-eddf-46a4-9d4d-e34e024dac94