安全專家紛紛離職,誰為AI競賽踩煞車
Anthropic與OpenAI安全研究員辭職
Anthropic的安全研究員Mrinank Sharma在給同事留下一封信後辭職,信中寫道:「世界正陷入危機」,不僅是AI,也涉及生物武器等一連串相互關聯的危機。
OpenAI的Zoë Hitzig也因Chat GPT引入廣告而辭職,此舉引發對AI發展方向與倫理問題的廣泛討論。
內部調整與組織變革
OpenAI在安全團隊連續多名成員辭職後,選擇解散「超級指定」團隊,並將其職能整合至組織內其他研究項目中。此舉被視為持續內部重組的一部分,重組始於2023年11月的治理危機。
AI發展的倫理與競爭壓力
專家指出,儘管AI技術發展迅速,但其安全與倫理問題日益嚴重。在激烈的商業競爭壓力下,許多安全專員選擇離開,反映出技術發展與風險管控之間的嚴重失衡。
