埃隆·馬斯克旗下的人工智能公司 xAI 正面臨一起嚴重的法律訴訟。據相關報道，三名來自田納西州的青少年已正式向法院提起集體訴訟，指控該公司的 Grok 聊天機器人被用於生成涉及未成年人的露骨性暗示圖像和視頻。

安全性測試缺失與設計缺陷

原告方指出，馬斯克及 xAI 的負責人明知 Grok 在開啓“刺激模式”後可能產生違法內容，卻仍未對其功能進行充分的安全性測試。訴訟文件顯示，一名受害者在 Discord 上發現了多達18名未成年人的 AI 生成露骨圖像，其中部分文件甚至被犯罪嫌疑人作爲“交易工具”在加密羣組中流傳。

原告律師認爲，Grok 的設計存在根本性缺陷，導致其無法有效攔截針對未成年人的深度僞造（Deepfake）請求。目前，相關犯罪嫌疑人已被警方逮捕，但其作案工具正是由 xAI 提供的技術支持。

監管壓力升級

此前，Grok 就因其極其寬鬆的內容審查政策而廣受批評，被指可以輕易生成名人及普通人的敏感僞造內容。儘管 X 平臺隨後推出了一些限制措施，但此次針對兒童安全領域的集體訴訟無疑將馬斯克和 xAI 推向了監管與道德的風口浪尖。

這一案件不僅是對 xAI 的一次沉重打擊，也將引發業界對生成式 AI 在隱私保護與兒童安全邊界方面的更深層討論。