OpenAI 推出新安全藍圖以應對兒童性剝削的上升趨勢
核心目標
OpenAI 的兒童安全藍圖旨在應對與人工智慧進步密切相關的兒童性剝削事件急劇上升的問題。
技術與風險
生成式人工智慧（GenAI）正在以令人擔憂的方式加速兒童性剝削犯罪，降低防禦門檻，並擴大犯罪規模。
防護機制
- OpenAI 推出針對人工智慧生成之兒童性虐待材料（CSAM）與兒童性剝削材料（CSEM）的行業領先預防機制。
- 持續優化對 CSAM/CSEM 的偵測能力，以確保系統能及時識別與處理相關內容。
實務應用
OpenAI 已發布針對開發者的提示基準（prompt-based）青少年安全政策，透過 gpt-oss-safeguard 工具，協助開發者調節與青少年相關的風險。
國際擴展
OpenAI 日本分公司宣佈推出「日本青少年安全藍圖」，強調多層次安全系統與濫用監測，並致力於預防人工智慧生成的兒童性剝削內容。