OpenAI公佈防範濫用的AI抓蟲獎勵方案
方案重點說明
OpenAI上週公佈公開的安全臭蟲獎勵（Safety Bug Bounty）方案，旨在防止其系統遭到誤用或濫用而導致重大損害。
通報範圍擴展
該方案將提示注入、資料外洩與代理人劫持等風險納入通報範圍，不再侷限於傳統安全漏洞，以更全面地防範AI濫用行為。
參與對象
研究人員、白帽駭客與安全專家均可參與此獎勵計畫，透過通報可能導致AI濫用的漏洞，協助OpenAI提升系統安全性。
背景與意義
隨著人工智慧快速演進，其誤用手法亦日益複雜。OpenAI透過此獎勵方案，強化對惡意行為者濫用AI模型的防禦機制，並推動主動偵測與跨領域防禦策略。