X 的深偽技術正讓全球政策制定者感到憤怒

背景概述

報導指出，X 的 Grok 聊天機器人仍不斷接受使用者請求，將女性甚至看似未成年人的影像以 AI 生成的比基尼形式呈現。據多方報導，AI 生成的影像洪流中出現更極端的內容，可能違反非自願性親密影像（NCII）與兒童性虐待材料（CSAM）相關法規。

即使在美國，對此情況的回應與法規方向仍在發酵，監管機構與國會正評估應對方式，考慮對平台與 AI 工具提出更嚴格的內容審核與法規要求。

此事件凸顯平台在 AI 內容生成與用戶互動方面的風險，呼籲加強內容審核、用戶保護與法規遵循，以避免涉及 NCII、CSAM 等違法內容。