最近、SNSプラットフォームのRedditで、配達サービスプラットフォームに関する詐欺を指摘する投稿がネット全体を騒然とさせたが、その逆転は非常に迅速だった。AIbaseの報道によると、この会社がアルゴリズムを利用してドライバーを搾取し、チップを盗んだという「内部告発」は、最終的にAIによって生成された虚偽情報であることが判明した。

この投稿は、「吹き替え人（ whistleblower ）」の口調で、酔った状態で公共Wi-Fiを使って会社の不正を暴露した自分の体験を生き生きと描写し、内容が煽動的で、8万7千回以上のいいねを獲得し、Xなどの他のプラットフォームにも広く拡散された。しかし、経験豊富なテクノロジージャーナリストが検証中に不自然さに気づいた。AIbaseは、この投稿者が提示した「従業員証」の写真や18ページにわたる「技術文書」が明らかにAIによる偽造であることを確認した。

さらにドラマティックなのは、この詐欺を識別した功臣もAIだったことである。報道によると、調査者はグーグルのGeminiとSynthIDの水印技術を使用して、関連する証拠画像にAI生成のデジタルウォーターマークが含まれていることを確認した。

ポイント：

  • 🛑 迅速な逆転: Redditで数千ものいいねを獲得した「配達サービスプラットフォームの詐欺告発」は、AIによって作成された虚偽情報であることが判明した。

  • 🤖 偽造手段の進化: 投稿者はAIで文章を作成するだけでなく、誤解を招くような従業員証や18ページにわたる偽造技術文書も作成していた。

  • 🔍 AIによるAIの識別: この調査では、グーグルのGeminiとそのSynthIDのウォーターマーク検出技術を使用して、AIを使ってインターネットの世論を汚染しようとした詐欺を暴いた。