隨着AI換 臉、AI擬聲技術的門檻不斷降低，網絡空間出現了一批利用高科技“走歪路”的違規賬號。近日，微信平臺發佈公告，針對平臺內利用AI技術仿冒名人的違規行爲展開了大掃除式的高壓打擊，旨在維護健康的生態秩序並保護公衆人物的合法權益。

據微信平臺監測，部分違規賬號通過AI技術精準僞造名人的形象與音色，製作虛假視頻或音頻。這些內容往往被用於違規引流、虛假宣傳甚至欺詐活動。這類行爲不僅侵犯了被仿冒者的肖像權與名譽權，更利用名人的社會影響力誤導普通用戶，嚴重擾亂了正常的網絡傳播秩序。

面對這一亂象，微信平臺採取了“人工+技術”的雙重圍堵策略。通過用戶舉報、日常巡查以及升級後的AI內容識別技術，平臺對違規行爲進行了嚴厲處置。截至目前，微信已累計處理相關違規內容超過1.3萬條，處置違規賬號1200餘個。其中，針對情節嚴重、以此進行惡意引流的多個賬號，平臺已依法實施了永久封禁處理。

微信表示，未來將進一步提升對AI生成內容的識別與治理能力，優化處置流程，確保對利用AI仿冒身份、營銷欺詐等行爲保持長期的“零容忍”態勢。同時，平臺也特別提醒廣大用戶:在刷到此類內容時應保持理性，辨別真僞，不輕信、不傳播，並鼓勵大家通過投訴渠道積極反饋違規線索。

image.png

劃重點:

  • 🛡️ 清理力度空前:累計處置違規內容1.3萬餘條，封禁賬號1200餘個，部分違規者被永久踢出平臺。

  • ⚠️ 打擊核心目標:重點針對利用AI僞造名人形象、聲音進行違規引流和虛假宣傳的行爲。

  • 🔍 技術手段升級:平臺將持續優化AI識別算法，保持對AI冒名營銷和欺詐的高壓打擊。