試圖根治AI幻覺- Nature和Science同時報道了一篇論文

試圖根治AI幻覺- Nature和Science同時報道了一篇論文

核心突破:小模型終結「參數崇拜」

《Nature》重磅報道了一篇論文,提出80億參數的小模型OpenScholar,摒棄傳統死記硬背方式,通過「檢索+自查」機制有效根治AI幻覺問題,在科學綜述任務上表現超越行業頂尖巨頭。

應用領域:藥物重定向與疾病治療

另一項研究指出,TxGNN圖神經網絡基礎模型發表於《自然·醫學》,可在零樣本條件下為缺乏現有療法的疾病識別潛在治療藥物,展現AI在醫療領域的實際應用潛力。

AI生成內容風險警示

《自然・人類行為》研究分析2020–2024年間超過10萬篇科學論文,發現22%的計算機科學論文已出現AI生成痕跡,電機工程領域比例達16.9%,凸顯AI濫用與論文造假風險。

科研倫理與AI濫用

《Science》揭露科研圈兩大亂象:一是「論文工廠」形成產業鏈,虛假論文增長速度遠超學術出版趨勢;二是ChatGPT等工具悄然滲入科研寫作,22%計算機論文含AI生成內容。

AI幻覺的深層認知挑戰

一篇深入研究指出,AI在科學研究中可能因缺乏真實知識基礎,導致對科學理解的錯覺,引發認知層面的爭議,提醒AI發展需兼顧科學嚴謹性與人類判斷。

來源:https://36kr.com/p/3670333402571396

返回頂端