因人工智能聊天機器人Grok被曝生成低俗色情內容，包括篡改女性圖像生成比基尼形象及涉及未成年人的性化內容，印度政府已對埃隆·馬斯克旗下的X平臺發出緊急整改令。印度信息技術部於12月27日（週五）正式下令，要求X在72小時內提交詳細整改方案，並全面限制Grok生成“裸體、性化描述、露骨色情及其他非法內容”的能力。若拒不執行，X平臺將面臨喪失“安全港”法律豁免權的風險，甚至被追究刑事責任。

 事件起因:AI圖像篡改引發衆怒

此次行動源於多起用戶舉報與議員投訴。印度議員普里揚卡·查圖維迪（Priyanka Chaturvedi）正式致函政府，指出Grok被用於指令式生成女性人物的AI篡改圖像——輸入普通照片後，AI自動將其“換裝”爲比基尼造型。更嚴重的是，部分生成內容涉嫌對未成年人進行性化描繪，引發社會強烈憤慨。

X平臺雖於週五承認“安全防護存在漏洞”並下架部分圖像，但TechCrunch調查發現，截至12月31日，平臺上仍可檢索到相關違規內容，凸顯整改滯後。

 政府重拳:72小時限期整改，威脅撤銷“安全港”

印度信息技術部在命令中明確要求X平臺:

- 立即升級Grok的內容過濾與圖像生成限制機制;

- 建立針對AI生成內容的主動監測與阻斷系統;

- 在72小時內提交書面整改報告，詳述技術與操作層面的具體措施。

命令特別強調:“若不遵守，將依法對平臺、負責人及用戶追究嚴厲法律責任。”依據印度《信息技術法》第79條，平臺只有在“盡到合理注意義務”前提下，才能對用戶生成內容免責。一旦被認定失職，X將失去這一關鍵法律保護。

 背景:印度正成爲全球AI內容監管“試驗田”

此次事件並非孤立。就在整改令發佈前幾日，印度信息技術部已向所有社交媒體平臺發出警示，重申:遵守本地內容法規是享有法律責任豁免的前提。作爲全球最大數字市場之一（互聯網用戶超8億），印度正試圖通過嚴格執法，確立其在全球AI治理中的話語權。

值得注意的是，X平臺目前仍在印度法院挑戰部分政府內容監管權，認爲其存在“濫用風險”。但面對此次AI生成內容的明確違法事實，X已難再以“言論自由”爲由推諉。

 AIbase觀察:AI生成內容監管進入“高危期”

Grok事件揭示了一個嚴峻現實:當大模型集成於高流量社交平臺，其生成內容的傳播力與危害性呈指數級放大。相比獨立AI工具，Grok在X平臺上的內容可被數億用戶即時查看、轉發，政治與社會敏感性極高。

印度此次行動，可能成爲全球監管風向標。若其成功迫使X建立AI內容“前置過濾”機制，其他國家或將效仿，推動平臺對AI生成內容承擔主體責任成爲國際慣例。

對科技巨頭而言，一個新時代已然來臨:AI不僅要“聰明”，更要“守規矩”——而規矩，正由各國政府親手書寫。