谷歌、微軟和xAI同意在公開發布人工智能模型前由美國政府先行審查
協議重點
美國商務部國家標準暨技術研究院(NIST)旗下AI標準與創新中心(CAISI)已與Google DeepMind、微軟與xAI簽署協議,讓美國政府可在前沿AI模型公開發布前取得未發布模型,進行能力、資安風險與國家安全影響評估。
參與單位與協議內容
- Google DeepMind、微軟與xAI已同意在人工智能模型向公眾發布前,提供美國政府提前訪問權限,以評估系統能力與安全風險。
- 微軟於官方網誌表示,公司已與美國CAISI及英國AI安全研究所簽署協議,推進AI測試及評估工作,包括合作測試微軟的前沿AI模型、評估安全防護措施。
- 根據協議,美國政府將在AI模型部署前進行評估,並開展研究以評估其能力與安全風險,以協助提升系統安全性。
