Rogue agents and shadow AI：為什麼風險投資者正在大力押注AI安全
AI安全的關鍵挑戰
隨著企業對AI的應用日益擴展，「失控的AI代理」（rogue agents）與「影子AI」（shadow AI）成為嚴重的威脅。這些未經授權的AI系統可能被員工用於執行敏感任務，甚至導致數據洩露或內部攻擊。
Witness AI的解決方案
啟動公司Witness AI開發了專門監控企業AI使用情況的技術，能夠偵測員工使用未批准工具的行為，並主動阻斷潛在攻擊，同時確保合規性與操作安全。
投資者動向
- 風險投資者正積極投入AI安全領域，因為市場需求急劇上升且可量測。
- Witness AI已獲得5800萬美元的資金，且其年收入成長達500%，成為市場的關鍵證明點。
- 許多投資者認為，建立信任與可驗證的安全保障，是當前企業AI發展的關鍵。
未來趨勢
隨著自主AI代理的普及，企業面臨的AI安全挑戰將持續加劇。投資者預計將持續將資金導向能提供透明度與防護機制的AI安全解決方案。
來源：https://techcrunch.com/2026/01/19/rogue-agents-and-shadow-ai-why-vcs-are-betting-big-on-ai-security/