美國律師事務所因 AI 幻覺錯誤向聯邦法官道歉

事件概述

知名華爾街律師事務所 Sullivan & Cromwell 因提交的文件中包含由人工智慧（AI）產生的錯誤引用，向聯邦法官正式道歉。該律師事務所承認，儘管其擁有防止錯誤引用和其他錯誤的 AI 政策，但在此次事件中並未嚴格遵循相關程序。

錯誤細節

根據報導，該律師事務所在一份法律文件中提交了約 40 個不正確的引用。這些錯誤是由 AI 工具在生成文件時產生的「幻覺」（hallucinations），即 AI 編造了看似真實但實際上不存在的法律條文或案例。

律師事務所的回應

Sullivan & Cromwell 的安德魯·迪特德里希（Andrew Dietderich）表示，該公司確實制定了 AI 政策以預防類似錯誤，但強調此次事件是程序執行上的疏失。他們已公開向聯邦法官致歉，並承諾將加強內部審查機制，以防止未來再次發生類似情況。

行業影響

此事件引發了法律界對 AI 在文件撰寫中應用風險的關注。許多法律專家指出，雖然 AI 能大幅提升工作效率，但缺乏人類審查的 AI 生成內容可能導致嚴重的法律後果。此次事件也被視為「AI 幻覺」在專業領域造成實際影響的典型案例之一。