參議員試圖「規範」Anthropic對自主武器與大規模監視的紅線

參議員亞當·席夫推動法案規範AI在戰爭與監視中的使用

參議員亞當·席夫（D-CA）正在草擬一項法案，旨在將Anthropic提出的紅線規範正式納入法律，確保人類在涉及生命與死亡的決策中仍擁有最終權力。

參議員艾莉莎·索特金推動限制國防部AI使用的法案

參議員艾莉莎·索特金（D-MI）近期提出《AI紅線法案》，旨在限制國防部對AI在自主武器與大規模國內監視中的使用，強調不得讓AI自主選擇與攻擊目標。

法案核心內容與現行規範

• AI不得自主決定對目標進行攻擊。
• 禁止使用AI進行大規模國內監視。
• 強調人類必須在關鍵決策中擁有最終權力。

相關背景與發展

此議題源自國防部與Anthropic之間的爭議，席夫與索特金的提案旨在將現行的國防部指導原則轉化為具有法律效力的規範，以確保AI應用不會逾越人類控制的紅線。

相關報導來自多個媒體，包括The Verge、NBC News、Axios與The Hill，均指出此議題正逐步擴展至國會層面。

來源：https://www.theverge.com/policy/900341/senator-schiff-anthropic-autonomous-weapons-mass-surveillance