預訓練通往AGI之路已死？楊立昆揭示了LLM無法跨越的認知鴻溝
核心論點
Meta首席AI科學家楊立昆揭示，大型語言模型（LLM）與人類思維之間存在根本性差異，僅靠增加參數量無法解決問題。
技術觀點
- 參數量不是解決LLM與人類認知差距的途徑。
- 未來突破可能來自於獎勵信號設計、硬體架構革新與世界模型的發展。
相關發展
Meta在2024年推出了名為「V-JEPA」的視頻預測模型，並先前推出AI視頻模型Fairy，顯示楊立昆對Sora技術持保留態度。
產業影響
楊立昆在推特上公開表示，這將改變大語言模型市場的格局，並強調開源社群在AI發展中的關鍵角色。