AI firm Anthropic seeks weapons expert to stop users from ‘misuse’
招聘背景與目標
人工智慧公司Anthropic宣佈尋求具備化學武器與高能炸藥專業背景的專家，以防止其系統被「災難性誤用」。
專業要求
申請者需具備至少五年相關經驗，專長領域包括化學武器與高能炸藥，以協助評估與預防AI可能被用於危險用途。
防範重點
- 防止AI被用於大規模監控或自主武器系統。
- 強化對AI系統的使用規範，避免其落入軍事或威脅性應用。
相關爭議
該舉動引發與美國國防部之間的緊張關係，國防部曾要求Anthropic擴大軍事應用，但Anthropic堅持拒絕，並提出限制使用範圍。