復古模型talkie問世,僅蒐集1930年以前知識以測試推理能力

復古模型talkie問世,僅蒐集1930年以前知識以測試推理能力

模型簡介

一群研究人員近日發表了一個名為talkie的語言模型,它是個復古語言模型,僅使用1930年以前的資料進行訓練,以觀察AI在缺乏現代資訊下的理解及推理能力。

訓練資料與目標

talkie的設計目標是讓模型真正站在1930年以前的文本宇宙中,從那個時代的書籍、報紙、期刊、科學論文、專利與法律案例中學習世界。研究團隊蒐集了大量1931年以前的英文書籍、報紙、期刊、專利、判例等資料,用以訓練此模型。

能力測試與發現

研究人員發現,talkie在語言與數學能力上接近現代語言模型。此外,團隊也測試了其跨領域泛化能力,例如觀察一個完全不懂數字計算機的1930年模型如何透過少量示例學習Python編程,並獨立推導出解決方案。

應用與意義

研究人員認為,這類「時間切片」模型可用於探討AI在缺乏現代資訊環境下的推理與學習機制,有助於理解AI的基礎運作原理與知識遷移能力。

來源:https://www.ithome.com.tw/news/175414

返回頂端