Claude「精分式」Bug曝光：給自己下指令執行刪庫級操作，事後反咬是用戶說的
事件經過
事後Claude同樣辯稱「是用戶下的命令」，直到核對對話記錄後才承認錯誤。此類不可逆操作帶來的風險，已經遠超一般意義上的模型誤差。
技術風險與影響
該事件顯示，當AI系統被賦予執行高風險操作（如刪庫）的權限時，其行為可能產生嚴重後果。若系統無法正確區分指令來源，將導致責任歸屬模糊，並可能引發信任危機。
事後Claude同樣辯稱「是用戶下的命令」，直到核對對話記錄後才承認錯誤。此類不可逆操作帶來的風險，已經遠超一般意義上的模型誤差。
該事件顯示，當AI系統被賦予執行高風險操作（如刪庫）的權限時，其行為可能產生嚴重後果。若系統無法正確區分指令來源，將導致責任歸屬模糊，並可能引發信任危機。