AI 代理與開源模型重塑資安風險，企業需建立制度化治理機制

生成式 AI 與代理型 AI 帶來的全新挑戰

隨著生成式 AI 與代理型 AI（Agentic AI）的快速普及，企業正面臨前所未有的資安挑戰。元智大學資管系助理教授王仁甫指出，AI 不僅是工具，本身也是一套系統，而所有系統皆存在漏洞。當 AI 具備自主操作、存取資料與呼叫 API 的能力後，資安風險將從傳統系統漏洞，擴大至 AI 代理、開源模型與供應鏈層級。

AI 加速漏洞生成與攻擊自動化

王仁甫強調，AI 技術讓漏洞與惡意程式的生成速度大幅提升。AI 工具可被用來研究漏洞、製造惡意程式及進行入侵，使得攻擊的自動化程度與惡意程式的演化速度全面加快。這迫使企業不能僅關注導入 AI 帶來的效率提升，更需輕忽其潛在的資安風險。

國際法規與治理模式的重構

面對 AI 帶來的資安威脅，美歐等先進國家已提出新的 AI 及資安法規、政策及標準，並建構 AI 的資安風險評估方法，以提高 AI 的資安韌性與治理模式。王仁甫博士認為，企業必須依循國際標準，強化治理與主動防禦，以應對 AD 攻擊與勒索軟體的激增。