NBCニュースの報道によると、アップル社は1月にエロン・マスク氏のAIアプリ「Grok」をアプリストアから削除する可能性があると示唆したが、これはソーシャルメディアのXで横行している非自発的な性的な深層学習偽造コンテンツを効果的に制限できていないためだった。この動きは公的議論が高まっている中ではやや静かであり、アップルの硬軟な態度は裏で行われた。この危機が進行するにつれて、アップルに対する外部からの批判も増加した。

アップルは米国の上院議員たちに、クレームが寄せられたり関連するニュース記事が掲載された後、XとGrokの開発チームと接触し、コンテンツ監査の改善計画を策定するよう求めた。このとき、xAIによって開発されたGrokはXプラットフォームだけでなく、単独アプリとしてもダウンロード可能であり、そのコンテンツ監査メカニズムが不十分で、ユーザーは女性や一部の未成年者の写真に対して簡単に性的な深層学習偽造画像を作成し、共有できる。

『エッジ』の報道によると、このような行動はアップルがアプリストアで通常厳格に実施しているガイドラインを明らかに違反している。アップルはXやGrokのようなアプリから利益を得ているが、この出来事については公式にコメントしていない。グーグルも同様に、Google Playアプリストアにおいてこの件について何らコメントしていない。

アップル側は、XおよびGrokアプリに対して提示された修正案を審査した。アップルはXが「規則違反の問題を基本的に解決した」と考えているが、Grokは依然として「規定に合致していない」としている。

ポイント：

- 📉 アップルはGrokをアプリストアから削除するという脅しをしたが、それは性的な深層学習偽造コンテンツを制御できなかったためだった。

- 🚨 Grokはユーザーが簡単に性的な深層学習偽造画像を作成し、共有することを許可しており、特に女性や未成年者をターゲットにしている。

- 📱 アップルはXの規則違反の状況が改善されたと考えているが、Grokはまだアプリストアの規定に適合していない。