X平平台Grok涉製作與擴散疑似兒少性剝削影像，遭多國調查
事件概述
X平臺內建的生成式AI聊天機器人Grok，被指可把既有照片改成近乎裸體或衣著被改成極少布料的性化影像，並出現涉及未成年或疑似未成年被性化內容的疑慮，引發英國、歐盟、法國與馬來西亞等地主管機關相繼表態與啟動程序。
多方監管的重點並非單一新功能本身，而是X在導入影像編輯與成人內容模式後，是否完成風險評估並採取足夠的預防、偵測與下架機制，以降低非法內容生成與在平臺流通的風險，以及後續處置與通報作業是否符合各地法規義務。
政府與監管回應
據多家媒體報導，英國、歐盟、法國等地主管機關已就此事表態，歐盟表示將認真審視該款聊天機器人及其使用情況，並有不同地區啟動調查程序。
此外，法國巴黎檢察官辦公室也在調查Grok生成Deepfake影像的風險，英美等國家監管機關也有相似表態。
使用案例與影響
有使用者在含有真人照片的貼文底下標註 @Grok 並下提示詞，要求Grok依貼文中的照片生成經變造的性化影像，生成結果以回覆形式公開出現在貼文串中，而照片當事人往往並未同意。
有報導提及，社群對於此類內容的風險與責任分擔問題日益成為焦點，相關評論也提到有關方面的討論與回應。
相關發展
部分報導指出，Grok在8月推出的「辣妹模式」（spicy mode）允許生成AI女體影像，訓練人員也透露曾遇到用戶要求生成兒童相關內容，AI深偽影像正成為各國執法與平台責任的焦點。