一天狂燒120萬億,字節幹成了Token工廠

一天狂燒120萬億,字節幹成了Token工廠

核心數據與工程指標

換算成更直觀的工程指標:120萬億Token/日,相當於每秒併發處理13.9億Token。這已經不是實驗室的壓力測試,而是真實生產環境的持續負載。

背景與趨勢

火山引擎公佈數據顯示,豆包大模型日均Token使用量突破120萬億,相較三個月前的60萬億有顯著增長。2024年5月發佈初期,該數字僅為當前的千分之幾,顯示出AI模型在實際應用中的快速迭代與擴張。

技術生態與產業影響

字節跳動憑藉抖音、剪映等國民級應用,其生圖、生視頻模型能在億級用戶場景中迅速驗證與迭代,形成「算力-模型-場景」的閉環生態。這種模式使字節成為AI領域中極具代表性的「Token工廠」。

行業對比與挑戰

目前,豆包大模型的日均Token調用量在全球僅次於OpenAI和Google,顯示出其在AI產業中的重要地位。然而,AI模型的高Token消耗也帶來算力與成本的挑戰,行業正探索更高效的推理與優化路徑。

來源:https://m.36kr.com/p/3749565513183752

返回頂端