美國戰爭部與「AI開發商」Anthropic 爆發激烈衝突
爭議焦點:安全防護機制是否將被取消
知情人士向路透社透露,美國五角大廈與人工智慧(AI)開發商Anthropic之間出現重大分歧,爭議焦點在於是否可能取消部分安全防護機制,使政府得以運用該公司開發的AI技術。
科技公司對政府行動表達關切
Anthropic與OpenAI兩家重量級人工智慧公司執行長,近日分別以公開與內部方式,對美國移民及海關執法局(ICE)與邊境巡邏單位的行動表達關切。
科技圈對ICE行動提出質疑
明尼亞波里斯邊境巡邏致命槍擊事件引發科技業反彈,Anthropic與OpenAI執行長分別公開與內部批評ICE行動,同時卻仍肯定川普,引發科技圈與公關界質疑。
Anthropic強調AI安全與潛在風險
美國人工智慧公司Anthropic:將禁止部分AI應用於軍事用途,並強調在爭相進入國防領域的過程中,需思考潛在風險,避免AI被濫用。
公司對AI被用於攻擊的回應
面對AI驅動的攻擊浪潮,Anthropic在發現攻擊後10天內迅速採取行動,封鎖相關帳號、通知受影響組織並向執法機關報告,同時擴充偵測能力,開發新防護機制。
