百川智能王小川談『全民養蝦』：智能體安全問題或在2026年集中爆發

背景與現象

近期，開源AI智能體「龍蝦」因圖標為紅色龍蝦而廣為人知，引發全民「養龍蝦」熱潮，多地用戶開始試用並投入創業行動。

國家互聯網應急中心及工信部已發聲提醒相關風險，呼籲對AI智能體的應用保持審慎態度，特別是當其具備理解、決策與執行任務能力時，可能引發不可預見的後果。

王小川在多個公開場合強調，目前AI能力仍處於發展初期，尚未達到足以顛覆人類的層次，近期並無重大安全問題。

根據Check Point報告，2025年被視為AI智能體規模化落地的元年，隨著智能體從會話工具進化為能自主決策與執行任務的系統，其安全挑戰將日益深遠，並預計在2026年集中爆發。

百川智能作為積極推動開源大模型的企業之一，其產品與技術策略被視為中國AI創業生態中的一個重要代表，未來將持續影響AI應用的發展方向。