OpenAIのCEOであるサム・オルトマン氏は、ChatGPTに「大人向けモード」を導入することを推進しています。オルトマン氏はソーシャルメディアで、会社が「成人ユーザーを大人として扱う」という原則に従い、安全を確保した上で、認証された成人ユーザーがエロティカ（エロティック文学）を含む多様なコンテンツにアクセスできるようにするとの声明を発表しました。

オルトマン氏は5か月前から、「成熟したアプリケーション」に関する制限を緩和すると約束していましたが、この計画の実施は遅々としていません。ウォールストリートジャーナルの報道によると、OpenAI内でこの機能について強い対立が生じています：

  • 上層部の対立：多くの従業員や幹部はオルトマン氏の突然の表明に驚き、これは深刻な倫理的およびブランドの危機を引き起こす可能性があると懸念しています。

  • セキュリティ上のリスク：OpenAIの年齢予測システムには現在、約12％の誤判定率があり、これにより数百万人の未成年者が制限を回避して不適切なコンテンツにアクセスする可能性があります。

  • メンタルヘルスへの懸念：アドバイザーたちは、過度に親密なAIとのやりとりがユーザーに深刻な感情依存をもたらす可能性があると警告しています。

リスクを回避し、競合と競うために、OpenAIは比較的慎重な戦略を採用しています。マスクのxAIのように画像生成によって違法な画像を生成し訴訟に巻き込まれたこととは異なり、OpenAIの大人向けモードはテキスト生成に限定されます。会社のスポークスパーソンは、この機能によって生成されるコンテンツは「恋愛小説」に近いものであり、単なる性的な情報ではないと強調し、ユーザーに現実世界でのつながりを促すことを求めています。

批判者たちは、OpenAIのこの動きは現在の財務的な圧力を和らげるためであり、コンテンツの境界を広げてより多くのサブスクリプション収入を得るためだと指摘しています。しかし、以前のセキュリティを担当していた幹部がこの計画に反対して退職し、AI生成コンテンツに対する規制が厳しくなっている中で、この「大人向けモード」が予定通り1か月以内に公開されるかどうかは不確実です。