從哲學概念到科技概念,再到經濟概念,Token的前世今生
Token的起源:從語言學概念出發
最早的Token源自語言學,指的是“詞項”(word token),即語言中一個具體的詞語實例。在自然語言處理(NLP)領域,Token是將文本分割成可處理單元的基本單位,例如將句子“我愛人工智能”分割為“我”、“愛”、“人工智能”三個Token。
Token在科技領域的演進
隨著大語言模型(LLM)的發展,Token成為模型處理輸入與輸出的核心機制。例如,GPT、BERT等模型均以Token為基本單位進行訓練與推理,其輸入文本被分割為Token序列,模型通過學習Token之間的關係來理解語義。
Token在經濟領域的崛起
如今,Token已超越技術範疇,成為一種經濟單位。當主流模型皆以Token計費、企業設立專門Token預算、政府政策文件也寫入“詞元交易”時,Token正成為無需爭論的新經濟單位。
權威觀點支持Token的經濟價值
一位是全球最大芯片公司的掌舵人,一位是中國數據領域的最高主管官員,卻用幾乎一致的口吻,將Token描述為一個經濟單位。中國國家數據局局長劉烈宏指出:”Token不僅是智能時代的價值錨點,更是連接技術供給與商業需求的結算單位”。
Token的未來展望
隨著AI技術的普及,Token正從技術術語演變為一種通用的“算力貨幣”,在數據交易、模型服務、智能合約等場景中扮演關鍵角色,成為連接技術與商業生態的重要橋樑。
