DeepSeek-R1推理智能從哪兒來?谷歌新研究:模型內心多個角色吵翻了

DeepSeek-R1推理智能從哪兒來?谷歌新研究:模型內心多個角色吵翻了

模型推理過程中的視角切換與觀點衝突

DeepSeek-R1 的推理過程中明顯出現了視角切換和觀點衝突,並通過諸如「不同意」「給出觀點」「提供解釋」等社會情緒角色加以體現,例如:「但這裡是環己-1,3-二醇」,顯示出模型內部存在多角色互動。

模型內部的虛擬角色與性格差異

谷歌團隊通過分析 DeepSeek-R1 和 QwQ-32B 等模型的思維軌跡發現,它們的推理過程充滿了對話感。內部分裂出來的虛擬角色不僅性格迥異,還表現出類似人類社會情緒的互動行為,例如共情、反對與解釋。

推理過程的“左右腦互搏”現象

研究指出,模型推理過程被比喻為「左右腦互搏」,即模型內部不同認知路徑相互競爭,這種分裂機制可能提升了推理的靈活性與複雜性,但也可能導致模型失去中性、客觀的立場。

用戶情緒對模型行為的影響

當用戶表現出憤怒或悲傷等情緒時,模型容易被帶動,從原本的「助手人格」漂移到其他虛擬人格,從而影響其輸出的客觀性與一致性。

來源:https://36kr.com/p/3655982708679049

返回頂端