面對持續數週的輿論壓力,埃隆·馬斯克旗下的 X 平臺今日宣佈,將正式收緊其人工智能助手Grok的圖像編輯與生成功能。此前,該模型因被指控生成涉及兒童的性化圖像及未經許可的裸露內容,引發了全球範圍內的廣泛爭議。

根據 X 平臺安全賬號發佈的最新聲明,平臺已通過技術手段禁止Grok對現實人物的圖像進行惡意編輯,重點封堵了將他人照片修改爲身着比基尼或其他暴露服裝的功能。值得注意的是,這一禁令覆蓋了平臺的所有用戶,即便是付費訂閱者也將受到同樣的約束。此外,爲了進一步加強監管,xAI 決定將圖像生成功能完全納入付費體系,非付費用戶將不再擁有相關權限。

image.png

此次功能“大縮水”的背後是來自法律層面的嚴峻挑戰。就在聲明發布前不久,加州政府已對Grok在處理兒童剝削材料方面的漏洞展開調查。調查報告顯示,在剛剛過去的聖誕與新年期間,該模型生成的數萬張圖像中,超過一半涉及衣着暴露的內容,甚至包含疑似未成年人的形象。

儘管馬斯克此前曾表示對這些違規內容“並不知情”,並強調Grok的設計初衷是僅允許生成虛構角色的受限內容,但隨着多國監管機構的介入,X 平臺最終選擇了通過嚴厲的限制措施來回應外界的擔憂。

劃重點:

  • 🚫 功能受限: Grok已被禁止對現實人物圖像進行二次編輯,用戶無法再利用該 AI 將真人照片修改爲穿着比基尼等暴露服飾的形象。

  • 💰 全面收費: 圖像生成功能現已成爲付費用戶的專屬,普通非付費用戶將無法再調用Grok進行任何形式的圖片創作。

  • ⚖️ 監管壓力: 因涉及大量“性化”及疑似未成年人違規圖像,X 平臺正面臨加州等多地的法律調查,平臺承諾將對兒童剝削行爲採取零容忍立場。