中國AI生成短影音亂竄 官方要求標記
官方強調AI生成內容須主動標記
中共中央網信辦指出，部分短影音內容涉及虛構演繹、擺拍行銷或AI生成，未加標記導致公眾認知誤導，因此要求各網路平臺全面落實標記機制，對未依規定執行的平臺將予以嚴懲。
多個平臺推動AI內容標識政策
包括微信、視頻號、抖音、B站、微博及小紅書等平臺，已更新用戶協議，要求內容發布者以顯著方式主動標示AI生成內容。對於未標示的內容，部分平臺將採取限流或下架等處置措施。
相關規範與技術標準逐步建立
- 《人工智能生成合成內容標識辦法》已實施，要求業者在文字、圖片、音訊、影片等內容中加註顯式與隱式標記。
- 平臺須標示疑似AI生成內容，並建立可追溯性機制，以確保內容來源透明。
- 模型開發需內建風險控制能力，包括內容合規校驗、身份核驗與敏感場景截斷。
案例與風險警示
多起案例顯示，AI生成內容被用於惡意篡改聲音與口型、製造虛假資訊或進行行銷，例如西藏珠峰無安裝電梯計畫的網傳資訊，經查為AI生成的虛假內容。
此外，歐盟報告亦指出，中國透過大量生產AI影片，散佈偽「原創」資訊，對異議人士進行打擊，引發國際關注。