思科開源AI模型溯源工具,提供辨識模型血緣

思科開源AI模型溯源工具,提供辨識模型血緣

工具功能與技術細節

思科近日推出開源工具Model Provenance Kit,旨在應對AI供應鏈中的資安風險,協助開發者與資安工程師驗證AI模型的來源與演變歷程。

該工具基於Python工具包與命令列介面(CLI),可為模型生成「指紋」,支援模型比對與資料庫掃描兩種模式,以解決模型變更難追蹤、來源資訊難核實以及維護水準不一等問題。

技術應用與安全意義

透過分析模型元數據、分詞器及權重信號,工具能生成唯一指紋並進行比對,用以驗證AI模型的血緣關係與完整性,有效防範第三方AI模型帶來的供應鏈安全問題。

此舉有助於避免模型身份不明所引發的版權、安全及合規疑慮,強化企業在AI應用過程中的透明度與可追溯性。

相關來源與延伸資訊

來源:https://www.ithome.com.tw/news/175502

返回頂端