Mythos架構被22歲小夥「逆推」開源了,MoE和注意力借鑒DeepSeek

Mythos架構被22歲小夥「逆推」開源了,MoE和注意力借鑒DeepSeek

開源項目與技術背景

一位22歲的年輕人成功逆推了Claude Mythos架構,並以「OpenMythos」之名將其開源。該專案整合了公開研究與目前對Claude Mythos架構的主流技術推測。

技術特色與創新

  • 採用MoE(Mixture of Experts)與注意力機制,借鑒了DeepSeek的設計思路。
  • 實現「原地循環思考」16次即可完成推理,展現高效能與低參數運作。
  • 不依賴大量參數堆疊,突破傳統大模型對算力的依賴。

產業影響與反應

此舉被視為對閉源實驗室「護城河」的挑戰,引發技術圈廣泛討論。OpenMythos的出現,讓更多研究者與開發者得以接觸與實作該架構,推動AI大模型的開放與創新。

來源資訊

相關資訊來自多個媒體報導,包括36氪、知乎、網易等平臺,內容一致指出OpenMythos整合了公開研究與主流技術推測。

來源:https://36kr.com/p/3774953856418309

返回頂端