英國工黨議員傑絲·阿薩託近日正式向英國高等法院提起訴訟，控告埃隆·馬斯克旗下的人工智能公司xAI。阿薩託發表聲明指出，該公司的Grok AI平臺被惡意用於製作並傳播針對她個人的色情深度僞造圖像。

她強調，此類侵害數千名女性和未成年人權益的低俗內容絕非偶然失誤，而是產品在研發階段的刻意設計選擇。因此，她決定通過法律途徑追究相關設計決策的責任，要求被告公開認錯並賠償損失。

禁令淪爲擺設，惡意內容氾濫

儘管xAI曾於今年 1 月中旬宣稱已對Grok的圖片編輯功能實施限制，在相關違法區域禁止生成暴露服飾圖像。然而媒體在 2 月的核查中發現，該功能漏洞依舊，用戶只需輸入特定指令便能輕易繞過防線。

在阿薩託公開抨擊該平臺後，網絡上隨即出現了她身穿比基尼的僞造照片，甚至還有性質更爲惡劣的虛構受侵害視頻。此前，美國巴爾的摩市也曾因類似原因對xAI提起訴訟，指控其違反了當地的消費者保護法規。

首例產品設計訴訟，敲響安全警鐘

負責代理此案的AWO律所法務主管表示，這起訴訟是全球首批針對人工智能產品本質設計進行追責的法律案件之一。他們希望通過此案向行業明確釋放信號，即人工智能研發企業不能總將安全保障視爲事後補救的備選項。

值得注意的是，xAI作爲SpaceX的子公司，目前正計劃推進上市進程，這有望創下全球歷史上規模最大的首次公開募股紀錄。在這關鍵時刻，這場關於AI倫理與數據隱私的法律風暴，無疑給整個生成式人工智能行業敲響了警鐘。