中央網信辦啟動專項行動整治AI應用亂象

行動背景與目標

中央網信辦近日在全國部署為期4個月的“清朗·整治AI應用亂象”專項行動，旨在規範人工智能應用發展，防範網絡風險，維護網絡空間清朗環境。

第一階段重點整治內容

• 未按規定履行大模型備案登記義務
• 平臺安全和審核能力不足
• 訓練語料存在違法合規問題
• AI數據投毒行為
• 合成內容標識不到位
• 濫用AI實施網絡攻擊及“換臉擬聲”等違法行為
• 開源模型安全管理缺位

第二階段重點整治內容

• 利用AI“魔改”經典作品
• 批量生成“數字泔水”內容
• 製作併發布虛假信息
• 假冒公眾人物或“復活逝者”
• 生產暴力低俗及侵害未成年人內容
• 利用AI“託管”開展網絡水軍活動
• 提供色情陪聊、「一鍵脫衣」及仿冒AI網站應用等違規服務

行動意義

本次專項行動通過分階段推進，系統性整治AI技術在應用中的亂象，強化平臺責任，提升內容安全與合規水平，保障公眾權益與網絡生態健康。

來源：https://www.panewslab.com/zh/articles/019dde82-6241-74a8-94f7-89d33f4d5187