不防外流也能防濫用,研究提出資料摻雜新作法

不防外流也能防濫用,研究提出資料摻雜新作法

背景與研究目的

一群來自新加坡與中國的研究人員,提出題為《Making Theft Useless: Adulteration-Based Protection of Proprietary Knowledge Graphs in GraphRAG Systems》的論文。該研究聚焦於企業知識圖譜(Knowledge Graph,KG)的資料防護,嘗試在 KG 中摻雜關鍵資料,以降低外洩後被駭客利用進行推理的風險。

核心機制

該作法利用 GraphRAG(Graph Retrieval-Augmented Generation)系統,在資料被外洩後,於將 KG 與大型語言模型(LLM)結合進行推理時,使推理結果出現錯誤或失真,從而削弱非法取得的商業智財價值。

實務意義與風險

研究指出此機制在理論上可提升知識圖譜的保護性,減少在外洩情境下的濫用風險;但也可能影響正當使用,且實際效果與實作成本需更多實驗與評估。

來源

資料來源於 iThome 報導。https://www.ithome.com.tw/news/173228

來源:https://www.ithome.com.tw/news/173228

返回頂端