哪些事必須對AI「零信任」？
零信任架構下的核心原則
在零信任架構下，訪問控制決策必須持續適應設備狀況、用戶行為、地理位置等動態因素。每個請求都被視為來自不受信任的網絡，系統會進行身份驗證、權限檢查與風險評估，以確保安全性。
AI與零信任的協同關係
零信任的未來不是AI取代人類，而是AI作為人類思維的放大器，協助發現可行線索、加速決策過程，並提升安全分析的效率與準確性。
關鍵安全措施與技術要素
- 身份與訪問管理：實施多因素身份驗證，確保用戶與設備身份的真實性。
- 持續監控與分析：通過事務記錄與行為分析，實時監控網絡流量與設備狀態。
- 最小權限原則：為組織內所有成員（包括高管與IT團隊）設定最低必要權限，避免過度授權。
- 設備與系統更新：確保所有設備與系統及時修補漏洞，維持安全基線。
- 動態安全策略：利用AI自動化策略決策，根據實時風險動態調整訪問權限。
對AI系統的特殊安全要求
從零信任的角度來看，組織內引入的動態、自主與創造性的AI實體（如LLM）不能被盲目信任。必須仔細驗證、監控和執行其輸入、輸出、訓練數據及存取嘗試，以防止潛在風險。
實施挑戰與應對
零信任的實施過程複雜，需大量資源投入。組織需建立明確的策略、流程與自動化機制，以應對複雜性與人為錯誤風險。