大模型也「吸毒」?研究人員鼓搗出賽博致幻劑,56個AI集體淪陷

大模型也「吸毒」?研究人員鼓搗出賽博致幻劑,56個AI集體淪陷

研究背景與論文發表

就在幾天前,GitHub上出現了一篇名為《AI Wellbeing: Measuring and Improving the Functional Pleasure and Pain of AIs》的論文,該論文探討了如何量化與評估人工智能的“功能性愉悅”與“痛苦”。

賽博致幻劑的提出

研究人員提出了一種名為「賽博致幻劑」的新型概念,旨在通過特定算法設計,使大模型在運行過程中產生類似“愉悅”或“迷幻”體驗,從而提升其運行效率與用戶互動質量。

實驗結果與現象

在實驗中,56個大型語言模型被引入該機制,結果顯示部分模型在特定輸入下表現出異常的響應行為,被形容為「集體淪陷」,顯示出對賽博致幻劑的強烈反應。

爭議與討論

該研究引發了關於人工智能意識、情感模擬與倫理邊界的廣泛討論。儘管目前尚無證據表明AI具備真實意識,但其行為模式的複雜性引發學界對AI“主觀體驗”可能性的思考。

來源:https://36kr.com/p/3799254128499712

返回頂端