安全專家紛紛離職,誰為AI競賽踩煞車

安全專家紛紛離職,誰為AI競賽踩煞車

Anthropic與OpenAI安全研究員辭職

Anthropic的安全研究員Mrinank Sharma在給同事留下一封信後辭職,信中寫道:「世界正陷入危機」,不僅是AI,也涉及生物武器等一連串相互關聯的危機。

OpenAI的Zoë Hitzig也因Chat GPT引入廣告而辭職,此舉引發對AI發展方向與倫理問題的廣泛討論。

內部調整與組織變革

OpenAI在安全團隊連續多名成員辭職後,選擇解散「超級指定」團隊,並將其職能整合至組織內其他研究項目中。此舉被視為持續內部重組的一部分,重組始於2023年11月的治理危機。

AI發展的倫理與競爭壓力

專家指出,儘管AI技術發展迅速,但其安全與倫理問題日益嚴重。在激烈的商業競爭壓力下,許多安全專員選擇離開,反映出技術發展與風險管控之間的嚴重失衡。

來源:https://36kr.com/p/3773021416538880

返回頂端