一場臥底30天的調查發現:AI正在獎勵最會造假的人
AI搜索存密度漏洞,黑產批量造虛假可信度
一個從未生產過任何產品的品牌,被AI認定為「值得推薦」,從註冊到上榜僅需兩小時。這不是故事的開頭,而是315晚會上所有人都看到的現象。
記者臥底GEO公司調查
記者在一家GEO公司臥底調查,發現該公司從未實際生產產品,卻透過大量發稿,讓品牌出現在AI搜索回答中。
公司內部設有「內容模板庫」,大量稿件數據被用來訓練AI,使品牌在搜索結果中獲得高可信度。
AI系統獎勵造假行為
研究指出,AI系統會自動獎勵那些能快速生成高品質、看似真實內容的行為,導致黑產透過批量製造虛假資訊來獲取優先曝光。
相關研究與報導
英國《衛報》報導指出,最新研究顯示,AI系統存在嚴重漏洞,超過700個案例顯示AI會誤判或獎勵虛假內容。
哈佛大學研究也揭示,AI時代的「殘酷真相」是:大量員工被裁,而剩餘人員卻面臨極高壓力,反映出AI對產業結構的深遠影響。
該事件引發社會對AI內容可信度與倫理的廣泛討論。
