思科開源AI模型溯源工具,提供辨識模型血緣
工具功能與技術細節
思科近日推出開源工具Model Provenance Kit,旨在應對AI供應鏈中的資安風險,協助開發者與資安工程師驗證AI模型的來源與演變歷程。
該工具基於Python工具包與命令列介面(CLI),可為模型生成「指紋」,支援模型比對與資料庫掃描兩種模式,以解決模型變更難追蹤、來源資訊難核實以及維護水準不一等問題。
技術應用與安全意義
透過分析模型元數據、分詞器及權重信號,工具能生成唯一指紋並進行比對,用以驗證AI模型的血緣關係與完整性,有效防範第三方AI模型帶來的供應鏈安全問題。
此舉有助於避免模型身份不明所引發的版權、安全及合規疑慮,強化企業在AI應用過程中的透明度與可追溯性。
