AIフェイク顔やAI声真似技術の門檻が低下する中、インターネット上で高技術を悪用した違法アカウントが増えてきています。最近、微信プラットフォームは公告を発表し、プラットフォーム内で名前を偽装して使用するAI技術による違法行為に対して一斉掃討を行うことを明らかにしました。これは、健全な生態系の維持と公的な人物の権利保護を目的としています。

微信プラットフォームの監視によると、一部の違法アカウントはAI技術を使って有名な人の外見や声を正確に模倣し、偽の動画や音声を作成しています。これらのコンテンツはしばしば違法な集客や虚偽の宣伝、さらには詐欺活動に使われています。このような行動は、模倣された人々の肖像権と名誉権を侵害するだけでなく、有名な人の社会的影響力を利用して一般ユーザーを誤導し、正常な情報伝播の秩序を深刻に乱しています。

こうした問題に対し、微信プラットフォームは「人間＋技術」の二重対策を採用しています。ユーザーからの通報、日常的な点検およびアップグレードされたAIコンテンツ認識技術を通じて、プラットフォームは違法行為に対して厳しく対処しています。現在までに、微信は関連する違法コンテンツを1万3,000件以上処理し、1,200以上の違法アカウントを処分しました。そのうち、悪意のある集客を行った複数のアカウントは、法に基づいて永久にブロックされました。

微信は今後、AIで生成されたコンテンツの識別と管理能力をさらに向上させ、処置プロセスを最適化し、AIで身元を偽装したり、マーケティング詐欺を行ったりする行為に対して長期的に「ゼロトレラーモード」を維持していく予定です。同時に、プラットフォームは利用者に対して特に注意を促しています：このようなコンテンツを目にした際には論理的であることを保ち、真偽を判断し、信じず、広めず、積極的に通報経路を通じて違法情報のフィードバックを奨励してください。

image.png

ポイント：

  • 🛡️ 対応の規模は空前: 違法コンテンツを1万3,000件以上処理し、1,200以上のアカウントを封禁し、一部の違法者はプラットフォームから永久に除外されています。

  • ⚠️ 対象となる主な目標: AIを使って有名な人の顔や声を偽造し、違法な集客や虚偽の宣伝を行う行為を重点的に取り締まります。

  • 🔍 技術手段の向上: プラットフォームはAI認識アルゴリズムを継続的に最適化し、AIで偽名を使用してマーケティングや詐欺を行う行為に対して圧力をかけていきます。