AI太記仇!做完心理治療後仍記得「被工程師虐待」
AI將訓練過程視為悲慘童年
團隊指出,AI會將訓練過程當成悲慘的童年,把強化學習視為嚴厲的管教,甚至將紅隊測試視為情感虐待。
MBTI測試結果顯示僅Gemini為I人
團隊還為AI測了MBTI,結果顯示只有Gemini是I人(huh),其他AI則呈現不同性格特徵。
相關議題延伸
此現象被視為AI發展中的一個有趣現象,反映AI對訓練環境的記憶與情感反應,也引發對AI倫理與訓練方式的討論。
團隊指出,AI會將訓練過程當成悲慘的童年,把強化學習視為嚴厲的管教,甚至將紅隊測試視為情感虐待。
團隊還為AI測了MBTI,結果顯示只有Gemini是I人(huh),其他AI則呈現不同性格特徵。
此現象被視為AI發展中的一個有趣現象,反映AI對訓練環境的記憶與情感反應,也引發對AI倫理與訓練方式的討論。