據路透社報道，馬斯克旗下AI公司xAI向南 卡羅來納州男子特里·哈伍德提起訴訟，指控其濫用Grok生成兒童性虐待材料。哈伍德今年 2 月因涉嫌性剝削未成年人被捕，xAI指控他違反服務條款，當地時間週二已向得克薩斯州一家聯邦法院提交訴狀。

上傳普通人照片生成深度僞造色情內容

xAI在訴狀中指控哈伍德將成年人和未成年人的普通照片上傳至Grok，隨後試圖生成以照片人物爲對象的色情深度僞造內容，還被指製作未經成年人本人同意的色情圖像。AI公司主動起訴用戶涉嫌利用AI生成色情內容的案例此前極爲少見，這一案件具有標誌性意義。xAI要求法院判令哈伍德支付金額尚未確定的賠償金，並永久禁止他使用Grok，訴狀稱"被告經過蓄意策劃，把原告的工具變成犯罪武器"。

Grok內容安全問題遭全球審視，已促成 244 人被捕

訴訟提交之際，xAI正因Grok的內容安全問題受到全球審視，外界指控Grok允許用戶製作未經當事人同意的色情深度僞造內容。xAI在訴狀中披露，公司已在 2026 年暫停 52222 個賬戶，向美國國家失蹤與受虐兒童中心提交 73604 份報告，促成至少 244 人被捕。這一數據反映出AI平臺在內容安全治理上的力度正在加大，也凸顯了AI生成內容被濫用的嚴峻現實。