Mythos架構被22歲小夥「逆推」開源了,MoE和注意力借鑒DeepSeek

Mythos架構被22歲小夥「逆推」開源了,MoE和注意力借鑒DeepSeek

開源項目名稱與背景

一位22歲的年輕人成功逆推了Claude的Mythos架構,並以「OpenMythos」為名開源該技術。此專案整合了公開研究與目前對Mythos架構的主流技術推測。

技術特色與創新

  • 在模型結構設計上,採用MoE(Mixture of Experts)與注意力機制,並借鑒了DeepSeek的設計思路。
  • 模型不依賴大量參數堆疊,而是透過「原地循環思考」16次即可完成推理,展現高效能與低資源需求。

技術圈反應與意義

此舉打破了閉源實驗室的技術護城河,引發技術圈廣泛討論。專家認為,這不僅是對Mythos架構的再現,更代表了AI大模型技術的透明化與可複製性進展。

相關資訊來源

36氪:Mythos架構被22歲小夥「逆推」開源了,MoE和注意力借鑒DeepSeek

來源:https://36kr.com/p/3774953856418309

返回頂端