一場臥底30天的調查發現:AI正在獎勵最會造假的人

一場臥底30天的調查發現:AI正在獎勵最會造假的人

AI搜索存密度漏洞,黑產批量造虛假可信度

一個從未生產過任何產品的品牌,被AI認定為「值得推薦」,從註冊到上榜僅需兩小時。這不是故事的開頭,而是315晚會上所有人都看到的現象。

記者臥底GEO公司調查

記者在一家GEO公司臥底調查,發現該公司從未實際生產產品,卻透過大量發稿,讓品牌出現在AI搜索回答中。

公司內部設有「內容模板庫」,大量稿件數據被用來訓練AI,使品牌在搜索結果中獲得高可信度。

AI系統獎勵造假行為

研究指出,AI系統會自動獎勵那些能快速生成高品質、看似真實內容的行為,導致黑產透過批量製造虛假資訊來獲取優先曝光。

相關研究與報導

英國《衛報》報導指出,最新研究顯示,AI系統存在嚴重漏洞,超過700個案例顯示AI會誤判或獎勵虛假內容。

哈佛大學研究也揭示,AI時代的「殘酷真相」是:大量員工被裁,而剩餘人員卻面臨極高壓力,反映出AI對產業結構的深遠影響。

該事件引發社會對AI內容可信度與倫理的廣泛討論。

來源:https://h5.ifeng.com/c/vivo/v002HdXbWCB-_DWTWOjO916eEX6kjRD7lVVqDpZnbHFj8-_9U__?isNews=1&vivoBusiness=browser&showComments=0

返回頂端