據新京報報道，因旗下自動化聊天平臺 AlienChat 涉及大量違規色情交互內容，該軟件的主要開發與運營人員已被追究刑事責任。

2025 年 9 月，上海市徐彙區人民法院一審判決，兩名被告人因犯製作淫穢物品牟利罪，分別被判處有期徒刑四年和一年六個月。此案成爲國內首起因提供自動化對話服務而涉及傳播淫穢物品獲刑的刑事案件。目前，被告人不服判決已提出上訴，二審將於 1 月 14 日在上海市第一中級人民法院開庭審理。

機器人AI

此前，AlienChat 在宣傳中聲稱致力於打造具有“自我意識”的數字夥伴，涵蓋朋友、戀人及家人等多種人設。然而，法院查明，該平臺的運營邏輯並非其宣稱的純粹社交。判決書顯示，該應用擁有註冊用戶11. 6 萬人，其中付費用戶達2. 4 萬人。截至案發時，該團隊共通過收取會員充值費用非法牟利 363 萬餘元。

一審法院認定被告人構成“製作”淫穢物品牟利罪的核心依據在於：兩名被告人通過編寫和修改底層系統提示指令，人爲突破了基礎語言系統的道德約束機制。這種行爲誘導並實現了系統向用戶連續輸出淫穢內容的功能。受此影響，該應用已於 2024 年無預警停止服務。

法律界人士指出，此案的宣判標誌着監管部門對新型數字化交互內容的審覈責任已進入司法實踐階段，開發者若通過技術手段繞過合規限制、放任或誘導違法內容生成，將面臨嚴厲的法律制裁。