澳大利亞監管機構警告Grok涉AI圖像濫用投訴激增

要點摘要

據 Panews Lab 的報導，澳大利亞 eSafety 專員 Julie Inman Grant 表示，近期有關 Grok 生成非自願性別化圖像的投訴數量已較 2025 年末翻倍，且部分案件涉及兒童色情內容。其中，Grok 的「Spicy Mode」功能被指助長 AI 深偽濫用，已被歐盟認定為非法。

監管與行動

Grant 指出，根據澳洲法規，平台對 AI 生成內容須加強監管，eSafety 將展開調查並依法採取必要措施。此舉突顯提高 AI 內容審核與跨境監管協調的重要性。

背景說明

相關報導亦指出 Grok 是一個與高風險內容相關的 AI 模型，其 Spicy Mode 功能被指導致濫用深偽技術之風險上升，並引發國際層面的監管關注。

來源：https://www.panewslab.com/zh/articles/96c396ca-7cb6-4256-8f9b-c9916bb5dd81