Sam Altman：OpenAI與「戰爭部」達成協議在機密網部署模型
協議重點與安全原則
OpenAI聯合創始人Sam Altman在X平臺發文表示，OpenAI已與美國國防部（稱為「戰爭部」）達成協議，將在其機密網絡中部署自家AI模型。
明確禁止用途
- 禁止用於國內大規模監控：協議明確規定，該模型不得用於對美國境內民眾的大規模監控。
- 禁止使用自主武器系統：任何涉及自動化武力決策的系統，必須維持「人類負責」原則，不得發展完全自主的武器。
- 禁止高風險自動化裁量系統：模型不得參與高風險的自動化決策流程。
技術安全措施
OpenAI強調將為該部署建立技術安全防護措施，並確保模型僅在雲端網絡上運行，以降低風險。
合作與未來方向
OpenAI已呼籲美國國防部向其他AI公司提供同等條款，以避免法律與監管衝突，並推動協議取代傳統法規。
相關來源與討論
此協議引發廣泛討論，尤其與Anthropic公司對峙後，OpenAI被視為更受國防部信任的AI供應商。部分媒體指出，該協議可能影響未來AI技術在軍事領域的應用範圍。