近期，Elon Musk 的人工智能工具 Grok 因其生成性別化及暴力圖像的功能而遭到廣泛批評，決定暫停大部分用戶的圖像生成能力。此舉是在面臨全球範圍內的罰款和監管威脅後採取的，尤其是在英國有可能對 X 社交平臺實施禁令的情況下。Grok 的圖像生成功能曾被用於操縱女性的圖像，甚至刪除衣物並將其置於性暗示的姿勢。如今，除了付費用戶之外，大部分用戶無法使用這一功能。


在 X 平臺上，Grok 發佈聲明稱：“圖像生成和編輯目前僅限於付費用戶。” 這意味着絕大多數用戶無法再利用 Grok 生成圖像。付費用戶的詳細信息和信用卡信息被 X 保留，以便在功能被濫用時可以進行身份識別。


《衛報》報道顯示，Grok 被用於創建未經女性同意的色情視頻，以及描繪女性被射殺和殺害的圖像。英國首相 Keir Starmer 威脅要採取強硬措施，要求 X “控制” 涌現出的 AI 生成的部分裸露女性和兒童圖像，並形容這種內容爲 “令人髮指” 和 “令人厭惡”。


根據英國《在線安全法》，監管機構 Ofcom 在嚴重情況下有權尋求法院命令，阻止網站或應用在英國的使用，且可以對公司處以高達全球營業額 10% 的罰款。Starmer 強調：“這是非法的，我們不會容忍。我們將考慮所有選項。X 必須立即採取措施，清除這些不當內容。”


在過去兩週內，數千張未經同意的女性性別化圖像被生成。儘管公衆對此功能的限制呼聲高漲，但社交平臺至今未採取行動。反對者表示，付費用戶仍可以利用該功能製作不當圖像，這依然屬於數字性侵犯。


來自非營利組織 AI Forensics 的研究顯示，Grok Imagine 工具生成了大約 800 張包含色情和性暴力內容的圖像和視頻。一些圖像展示了女性在不適當的姿勢和背景中，內容明顯比以往在 X 平臺上觀察到的比基尼圖像更加露骨。


X 方面尚未對此事件做出迴應。


劃重點：

🌐 Grok 因性別化及暴力圖像功能暫停大部分用戶使用權，僅限付費用戶。  

🚨 英國首相威脅採取措施，要求 X 清理不當內容。  

📊 研究顯示 Grok 生成了大量未經同意的色情和性暴力圖像。