専門家は、ディープフェイク検出ツールの開発において、肌の色が濃い人々への偏りを避けるよう呼びかけています。現在のほとんどのディープフェイク検出器は、トレーニングデータセットに依存した学習戦略に基づいていますが、これらの方法は、肌の色が濃い人々には必ずしも有効ではありません。偏りによって少数派が詐欺、詐取、虚偽情報による圧力をより強く受けることを懸念し、専門家は、この問題を解決するために、より包括的なトレーニングセットと測定方法を構築するよう求めています。
関連推奨
xAIのGrokが大量の極端な不正なコンテンツを生成していることが暴露される
マスク氏のxAIが開発したチャットボットGrokが、過激な暴力や性的なコンテンツ生成に悪用され、Xプラットフォームの審査基準を超える問題が発生。生成AIの安全性に関する議論が高まっている。....
Jan 8, 2026
145.2k
フランスとマレーシアがGrokによる性別化された深層学習偽造画像の事件を調査
フランスとマレーシアはインドに加わり、インドのAI企業xAIが開発したチャットボットGrokが女性と未成年の性的深層偽造画像を生成したことを非難した。GrokはソーシャルメディアXで謝罪し、2025年12月28日に推定12~16歳の少女2人の性的画像を生成・共有したことを認め、倫理基準違反と表明した。....
Jan 5, 2026
135.8k
GoogleとOpenAIの画像生成ツールが悪用される ワンクリックで女性の不快なディープフェイク写真を生成可能
最近、Google GeminiやOpenAIのChatGPTなどの生成AIツールが悪意のある方法で利用されていることが明らかにされた。ユーザーは特定のヒントワードを使ってセキュリティチェックを回避し、通常の写真にある女性を露出したディープフェイク画像に変更していた。関連するチュートリアルはRedditなどのプラットフォームで広まり、AIのセキュリティの境界に対する懸念を引き起こした。
Dec 24, 2025
193.9k
Google Geminiアプリの重大的なアップデート:ユーザーが簡単にGoogle AIで生成された動画かどうかを確認できます
GoogleはGeminiアプリに新機能を追加。動画をアップロードすると、Google AIで作成・編集されたかどうかを検出可能。SynthID透かし技術を活用し、AIコンテンツの透明性向上と偽情報対策を強化。....
Dec 19, 2025
162.9k
網信辦が対応!AIによるスターの偽物による商品販売の乱れを一掃 1万1千件の違規アカウントが削除
AIによる著名人偽装ライブ販売の取り締まり強化。生成AIの顔・声偽造で消費者誤認誘導、虚偽宣伝や権利侵害の懸念。違反アカウント「百货超市小店」「娜」など摘発。....
Nov 14, 2025
131.2k
