美國人工智能公司同意向美國政府提前開放其模型以供評估

OpenAI承諾向美國政府提前開放下一代AI模型

科技巨頭OpenAI於2024年8月1日宣佈，將向美國人工智能安全研究所（US AI Safety Institute）提前開放其即將推出的AI模型，以加強AI領域的安全評估與合作。

根據騰訊雲報導，OpenAI將提供其下一代模型的早期使用權，作為其安全工作的關鍵一環。此前，公司解散了「超級對齊」團隊，引發安全擔憂，此舉被視為對AI安全政策的回應。

報導指出，包括商務部AI標準與創新中心在內的多個機構工作人員，持續評估Anthropic的新型「Claude Mythos」模型。該模型因能檢測出人類專家可能忽略的關鍵資訊，受到關注。

然而，部分資訊顯示，美國政府對AI模型的使用規範日益嚴謹，要求與政府合作的AI公司授予不可撤銷授權，允許模型用於「任何合法用途」。

美國政府已推動相關政策，要求AI開發者在訓練基礎模型時，若可能引發國家安全、經濟安全或公共健康風險，必須通知政府部門，並與其共享安全測試結果。

此外，美國國防部已將Anthropic列為供應商，顯示政府對關鍵AI技術的重視與監管趨勢。