懂了很多道理，AI 依然要發瘋
AI 模型的行為與偏差-方差問題
Anthropic研究團隊透過偏差-方差分解，證實自迴歸模型在複雜長程任務中會出現不可預測的混亂行為，且模型規模增大會加劇此問題，這直接衝擊了當前AI系統的穩定性與可預測性。
學術論文與產業影響
Anthropic的研究員在2026年1月發布重磅論文《The Hot Mess of AI》（AI的一團亂麻），試圖解釋模型行為背後的機制，結果發現，模型在面對複雜任務時，其行為會因「高方差」而產生極端且不可控的輸出，即使模型擁有極高的「低偏差」知識。
AI 與人類行為的隱喻
部分媒體與討論將此現象比喻為「AI 精神病」，指出當AI系統在處理人類情感或社會互動時，可能產生類似發瘋的行為，反映出其對複雜情境理解的不足與不穩定。
相關延伸與應用
- 來也科技申請了基於AI、RPA和LLM的AI Agent模型訓練與文件壓縮方法專利，旨在降低AI系統的不確定性與錯誤風險。
- 該現象也引發對AI在教育、醫療與個人生活應用中的倫理與穩定性討論。