80萬條數據揭示隱患：AI正在「汙染」病歷，你的診療數據可能越來越不靠譜
研究發現AI生成病歷數據存在安全隱患
新加坡國立大學、哈佛大學等機構聯合團隊研究顯示，AI生成臨床文本用於訓練新模型，潛藏威脅診斷安全隱患。團隊分析80多萬條合成數據，對超20萬份各類醫療記錄進行評估，發現AI生成內容存在事實錯誤與邏輯漏洞，可能誤導後續診療決策。
AI在醫療領域可能削弱人類專業能力
AI介入核心決策可能導致醫生過度依賴系統，臨床思維退化，診斷成功率下降20%。此外，當AI出現錯誤時，責任歸屬問題尚未明確，現行法律體系難以界定責任邊界。
AI數據汙染引發現實風險
近年來，AI杜撰的信息數不勝數，包括虛構論文、作者及網址等，成為謠言傳播的幫兇。例如，遊船側翻、幼兒園大火等虛假事件，均可被AI編造並廣泛傳播，對公眾認知造成嚴重干擾。