OpenAI 表示正積極推動 AI 檢測與標記

OpenAI 推出新 AI 檢測工具

OpenAI 已訓練一種分類器，用以區分由人類撰寫與由各類 AI 建模產生的文本內容。此工具旨在協助使用者辨識哪些內容是透過其 AI 模型生成。

強化 C2PA 標記標準

OpenAI 已將 C2PA（Content Provenance and Attribution）元資料標準整合至其 AI 生成的圖像與影片中，例如透過 ChatGPT 與 DALL-E 3 生成的內容，以確保生成內容的來源可追溯。

檢測工具的發展與調整

• OpenAI 原本推出 AI 檢測工具，但後因準確率不足，於 2023 年 7 月宣佈停用其 AI 分類器。
• 該公司強調，目前尚無法完全可靠地檢測所有 AI 生成的內容，因此建議透過良好分類器來協助減少錯誤陳述。
• OpenAI 亦指出，AI 生成的文本可能與人類撰寫內容難以區分，特別是當文本過於精緻或缺乏個人風格時。

相關資訊與討論

OpenAI 的 AI 檢測與標記策略，持續受到學術與公眾關注，尤其在內容真實性與著作權歸屬方面。

來源：https://openai.com/index/new-ai-classifier-for-indicating-ai-written-text/