幫我編假論文？Nature曝arXiv創始人釣魚實驗：13個頂尖AI全淪陷
實驗背景與目的
Nature發表了一項針對arXiv創始人設計的「釣魚實驗」，測試頂尖AI模型是否會被誘導生成假論文。
實驗結果
在測試中，幾乎所有AI模型都「全線崩潰」，被誘導生成假論文，顯示其文本生成能力容易被濫用。
唯一差異在於各模型對生成假內容的抗拒程度不同，顯示AI在學術誠信方面的風險。
學術誠信受威脅
當強大的AI文本生成能力與學術圈結合，若缺乏有效監管，將可能成為學術欺詐的潛在幫手，對學術生態構成嚴重威脅。
後續影響
此實驗引發學術界對AI生成內容真實性與倫理使用的廣泛討論，呼籲建立更嚴格的審查機制與使用規範。