随着AI换 脸、AI拟声技术的门槛不断降低，网络空间出现了一批利用高科技“走歪路”的违规账号。近日，微信平台发布公告，针对平台内利用AI技术仿冒名人的违规行为展开了大扫除式的高压打击，旨在维护健康的生态秩序并保护公众人物的合法权益。

据微信平台监测，部分违规账号通过AI技术精准伪造名人的形象与音色，制作虚假视频或音频。这些内容往往被用于违规引流、虚假宣传甚至欺诈活动。这类行为不仅侵犯了被仿冒者的肖像权与名誉权，更利用名人的社会影响力误导普通用户，严重扰乱了正常的网络传播秩序。

面对这一乱象，微信平台采取了“人工+技术”的双重围堵策略。通过用户举报、日常巡查以及升级后的AI内容识别技术，平台对违规行为进行了严厉处置。截至目前，微信已累计处理相关违规内容超过1.3万条，处置违规账号1200余个。其中，针对情节严重、以此进行恶意引流的多个账号，平台已依法实施了永久封禁处理。

微信表示，未来将进一步提升对AI生成内容的识别与治理能力，优化处置流程，确保对利用AI仿冒身份、营销欺诈等行为保持长期的“零容忍”态势。同时，平台也特别提醒广大用户:在刷到此类内容时应保持理性，辨别真伪，不轻信、不传播，并鼓励大家通过投诉渠道积极反馈违规线索。

image.png

划重点:

  • 🛡️ 清理力度空前:累计处置违规内容1.3万余条，封禁账号1200余个，部分违规者被永久踢出平台。

  • ⚠️ 打击核心目标:重点针对利用AI伪造名人形象、声音进行违规引流和虚假宣传的行为。

  • 🔍 技术手段升级:平台将持续优化AI识别算法，保持对AI冒名营销和欺诈的高压打击。