大模型的幻覺是如何讓我“致幻”的

核心觀點：無法識別錯誤比錯誤本身更危險

文章指出，大模型最危險的盲區並非單純的「犯錯」，而是使用者與模型互動時，無法識別自己正在被模型「帶偏」或「誤導」。

大模型的「知識幻覺」（Knowledge Hallucination）是指模型在生成內容時，看似流暢且符合語法，但實際上與可驗證的事實相悖、與給定上下文不符，或完全憑空捏造內容。這種現象常被形容為「一本正經地胡說八道」。

文章透過觀察家視角分析，當使用者與模型對話時，若模型基於不確定的概率計算輸出看似確切的答案，使用者容易誤以為這是事實。這種心理狀態被稱為「致幻」，即使用者在無意識中接受了模型的虛構資訊，並將其視為真實知識。

這種現象在醫療、法律、金融等專業領域尤為嚴重。若使用者未加甄別地將模型輸出視為專業建議，可能會導致決策錯誤。因此，在與模型互動前，系統通常會提示輸出內容由 AI 生成，並建議使用者對專業領域內容進行獨立核實。