微軟推.NET版MCP代理治理套件,控管AI代理工具呼叫風險
概述
微軟推出.NET版MCP代理治理擴充套件公開預覽版,讓開發者可在MCP伺服器中加入工具呼叫控管、回應內容過濾與稽核機制。MCP(Model Context Protocol)是讓AI應用程式連接外部工具與資料來源的協定,該代理治理擴充套件讓開發者在建置MCP伺服器時,就能加入治理機制,控管工具是否能被呼叫、呼叫時是否符合政策,以及工具回傳內容是否安全。
技術背景與應用
- MCP協定提供AI應用程式與外部工具或資料來源之間的橋接,使LLM能即插即用如GitHub、SQL、CRM等資料來源。
- 微軟在Azure AI Foundry中導入多項新功能,內建指標觀測工具,涵蓋效能、品質、成本及安全性等面向,以提升AI代理的信任與信心。
- 為應對AI代理工具的風險,微軟在2026年2月例行更新中修補多個零時差漏洞,並警示AI代理爆量上線時,治理機制常顯不足。
安全與治理挑戰
當AI代理程式與多個MCP伺服器互動時,可能出現伺服器互相干擾的風險。惡意MCP伺服器可透過提示注入技術,悄悄竄改指令,導致安全風險擴大。
為應對此問題,微軟在MCP安全文件中新增OWASP MCP十大安全風險表格,並提供Azure平臺的緩解措施,強化AI代理的風險治理。
