國內首例AI涉黃案要判了，難怪大廠都不搞AI伴侶
案件背景
日前《新京報》的相關報道顯示，國內首個AI服務涉黃判刑案二審在即，AlienChat App的主要開發和運營者因用戶與AI“搞黃色”被追究了刑責。
判決詳情
2025年9月，上海市徐彙區人民法院一審判決，兩名被告人犯製作淫穢物品牟利罪，分別獲刑四年、一年半。此案成為國內首起AI服務提供者涉黃獲刑的案件。
技術與道德爭議
一審法院以“製作”淫穢物品牟利罪判決，主要因素是查明被告人通過編寫、修改系統提示詞突破大語言模型的道德限制，實現了模型向用戶連續輸出淫穢內容的可能。
用戶行為與平臺責任
因為大量用戶在APP上與AI智能體“聊黃”，APP的主要開發和運營者被追究了刑責。案涉APP註冊用戶達11.6萬人，付費用戶達2.4萬人。