中國網軍想洗腦!AI「提示詞」忘記刪糗了

中國網軍想洗腦!AI「提示詞」忘記刪糗了

美國蘭德智庫研究員王宏恩發現AI生成內容問題

美國蘭德智庫研究員、內華達大學拉斯維加斯分校政治系副教授王宏恩發現,部分「中吹」粉專利用AI生成文章,卻忘記刪除「面向臺灣用戶」提示詞。

AI生成內容直接暴露針對臺灣人的設定

王宏恩透過分析發現,一個介紹中國人物的粉專貼文末尾竟直接留下prompt內容,內容為「面向臺灣用戶,用繁體語言,重新編輯這個文章,字數控制在500,保留原文的開頭」,顯示這些內容是專門針對臺灣人設計。

中國內容農場透過AI針對臺灣人進行內容農場操作

根據王宏恩分享的案例,中國內容農場控制的臉書粉專,透過AI生成『專門針對臺灣人的繁體中文』貼文,並在編輯紀錄中留下提示詞痕跡,顯示操作者明知需要隱藏生成指令。

多個平臺揭露相同問題

  • LINE TODAY報導指出,該粉專貼文末尾直接留下prompt內容,內容明確針對臺灣用戶。
  • 三立新聞指出,其中一則介紹中國歷史人物的貼文末尾,竟直接留下提示內容,包含「面向臺灣用戶,用繁體語言,重新編輯這個文章,字數控制在500,保留原文」。
  • 鏡週刊提到,雖然部分貼文事後刪除提示詞,但仍可從編輯紀錄中找到痕跡,顯示操作者明知需要隱藏生成指令。

學者強調AI提示詞暴露內容農場操作

王宏恩表示,這些文章與許多大學生及期刊作者一樣,忘記把AI生成的prompt刪除,這成為判斷這些粉專被中國內容農場控制的重要證據。

來源:https://tw.news.yahoo.com/%E4%B8%AD%E5%9C%8B%E7%B6%B2%E8%BB%8D%E6%83%B3%E6%B4%97%E8%85%A6-ai-%E6%8F%90%E7%A4%BA%E8%A9%9E-%E5%BF%98%E8%A8%98%E5%88%AA%E7%B3%97%E4%BA%86-140438729.html

返回頂端