Sam Altman 被解僱又復職:OpenAI 高管爭議與AI對齊風險

Sam Altman 被解僱又復職:OpenAI 高管爭議與AI對齊風險

2024年,OpenAI 高管 Sam Altman 因被指控隱瞞與誤導行為而遭解僱,隨後迅速反轉決定,重新擔任公司首席執行官。此事件引發業界對其領導風格、公司治理結構與AI對齊安全的廣泛討論。

關鍵事件時間軸

2024年初,OpenAI 董事會決定解僱 Sam Altman,理由為其長期存在對安全流程的隱瞞與誤導,包括未公開印度地區ChatGPT早期版本的違規事件,以及對GPT-4功能安全審批的虛假陳述。

隨後,Altman 短時間內組織內部反擊,透過前董事與投資人支持,迅速推動董事會更迭,並在數日內恢復職位。此過程被外界視為「Blip」事件,象徵個人意志對組織治理的突破。

內部安全與對齊問題

在Altman領導期間,OpenAI內部對AI對齊(alignment)的關注逐漸被產品與收入優先所取代。2022年底,研究團隊發現GPT-4的兩項關鍵功能未獲安全委員會批准,卻仍被推廣。

2023年,負責安全的Jan Leike在備忘錄中指出:「OpenAI 正在偏離其使命。我們把產品和收入放在首位,其次是能力、研究與擴展,而對齊與安全排在第三。」

公司曾設立「超級對齊團隊」,承諾分配20%的算力,但實際僅分配1%至2%,且運行於性能最差的集群,顯示資源配置嚴重不均。

高管與員工的不滿與離職

2020年,Dario Amodei與Ilya Sutskever等核心成員因對Altman的領導風格與安全承諾產生質疑,離開OpenAI創立Anthropic,成為主要競爭對手。

多位前員工指出,Altman在多場會議中對安全問題含糊其辭,提供相互矛盾的說法,並在關鍵決策中隱瞞資訊,導致團隊對其信任度持續下降。

公司治理結構的變遷

2023年,OpenAI完成「資本重組」,由原本的非營利實體轉為營利公司。其非營利基金會(OpenAI Foundation)持股僅為26%,且董事會成員重疊,削弱了非營利性質。

在董事會調查過程中,僅以口頭簡報形式向新任董事Lawrence Summers與Bret Taylor報告,未發布任何正式書面報告。調查結果被視為「未達充分透明」,且未對長期誠信問題進行深入審視。

個人與私生活爭議

Altman被指與未成年男性有過交往,其妹妹Annie聲稱遭性侵,但雙方均否認,且無證據支持。相關指控被認為是競爭對手為擴大影響力而散播的「對手情報」。

OpenAI曾推動歐盟AI監管提案降級,並在加州法案中公開反對安全測試,顯示其在公開呼籲監管同時,私下推動對AI模型的弱化規範。

Altman與Elon Musk關係緊張,Musk多次公開批評其為「Scam Altman」,但Altman在美國政界獲得支持,曾隨行訪問英國溫莎城堡,並與特朗普保持頻繁聯絡。

對AI發展的長期影響

Altman被視為「這一時代最強的講故事者」,其強大的說服力與意志力使他能整合多方資源與立場,但同時也引發對個人是否構成系統性風險的擔憂。

多位科技高管指出,Altman的行為模式類似「反社會人格」,能在短時間內設計結構約束未來,但當現實到來時,又會拆解這些結構,象徵著一臺AGI正在突破牢籠。

OpenAI的章程雖仍可查閱,但內容已被嚴重弱化,原「若AGI出現,應停止競爭」的條款,已被重新定義為「人類被削弱是不便現象」,顯示價值主張的轉變。

目前,Altman仍持續推動AI對齊研究,並強調其對AI技術的長期貢獻,但業界對其誠信與治理透明度的質疑,仍持續存在。

來源:https://m.theblockbeats.info/news/61830

返回頂端