新法生效與監管調查對Grok AI深偽影像意味著什麼
新法生效與技術風險
本週即將生效的新法律，可能會令其他人工智慧工具的擁有者頭痛，因為這些工具在技術上大多也能生成此類影像。外界已開始質疑，究竟該如何執行這項法律——Grok 工具因此成為監管焦點。
Grok 被指控生成不雅深偽影像
當然，Grok正因給女性「脫衣」而非「換衣」而遭到抨擊，而且是在未經同意的情況下進行。在他人的提示下，它會生成身著比基尼甚至更不堪入目的照片，並將這些內容生成並分享。
全球監管與法律回應
- 英國科技大臣Liz Truss表示，將對xAI旗下聊天機器人Grok的濫用行為提出嚴厲監管，並推動立法，將生成「deepfake 裸照」刑事化。
- 義大利資料保護主管機關警告，若未經同意運用人工智慧工具創造真實存在人物「裸露」的深偽圖像，恐構成嚴重隱私侵害，有時甚至會涉及刑事犯罪。
- 馬斯克旗下xAI公司宣佈，將在相關司法管轄區內「地理封鎖」所有Grok及X用戶生成人物穿著比基尼、內衣或其他類似服裝圖像的能力，凡此類行為被視為違法之處均適用。
國際關注與調查
英國已對X平臺展開調查，並承諾加強犯罪立法，主要是因為Grok最近被用來生成女性及兒童不雅深偽影像。此舉引發全球對AI生成內容與隱私保護的廣泛討論。