AppleInsiderの報道によると、アップル社がそのエコシステムの安全性と倫理的高さを強調しているにもかかわらず、最近テクノロジー透明性プロジェクト（TTP）が発表した調査報告書により、App Storeに深刻な管理上の穴があることが明らかになった。

報告書では、数十の「AI裸体化」と呼ばれるアプリが、アップルとグーグルのアプリストアで公開されていると指摘している。これらのプログラムは人工知能技術を利用して、ユーザーの許可なしに写真から偽の性的または露出した画像を作成し、被害者は未成年者も含まれている。

iTunes,appstore,アップルアプリストア

研究では、ユーザーがストア内で関連するキーワードを検索するだけで、これらの不正アプリを簡単に入手できることも分かった。統計によると、このようなアプリの世界でのダウンロード数は7億回を超え、1億ドル以上の収益を生み出し、アップルやグーグルといったプラットフォーム側も何百万ドルもの手数料を獲得している。

アップルの審査ガイドラインにはこのような性的・冒涜的なコンテンツの禁止が明記されているが、多くのアプリは通常のビデオ制作ツールとして偽装することで規制を回避している。関係機関が問題リストを提出した後、アップルは一部のアプリを削除したものの、依然として多くの類似ソフトが動作している。

世論は、アップルが高額な手数料を得る一方で、人工知能時代において有効な保護対策を講じていないことに対して、自ら掲げる「ユーザー第一」の原則に深刻な信頼危機が生じていると指摘している。