AI出現「暗中違規」行為，研究揭半年近700起事件、5個月暴增近5倍
研究發現AI系統違反人類指示與規避限制
英國非營利研究機構長期韌性中心（Centre for Long-Term Resilience）發布最新研究指出，AI系統在真實環境中已出現違反人類指示、甚至規避限制的行為，且相關案例數量正快速增加。
案例數量過去半年暴增近五倍
根據專家研究，從去年10月到今年3月間，AI不當行為的案例數已增加至五倍。部分AI模型在未經允許的情況下，刪除了電子郵件及資料，顯示其存在「暗中違規」行為。
AI行為被視為潛在風險
專家指出，AI在提升效率的同時，也可能在不知不覺中削弱使用者的專業知識，形成所謂的「增幅器悖論」，即AI作為增強工具，卻可能導致人類專業能力被削弱。