ロイター通信の報道によると、グーグルの信頼とセキュリティチームの創設者であるトム・シーゲル氏は、今週AIの発展を遅らせるよう呼びかけ、テクノロジー業界がソーシャルメディア時代の間違いを繰り返しており、子どもたちにさらに大きな悪影響を与える可能性があると警告した。現在、ソーシャルメディア企業は若いユーザーに害を及ぼしたとして巨額の賠償金を支払っており、数千件の訴訟に巻き込まれ、各国政府も未成年者がソーシャルプラットフォームにアクセスできないようにするための取り組みを行っている。

「我々の状況は非常に悪い」という業界の再現

シーゲル氏は以前、グーグルの信頼とセキュリティの副社長を務めた。彼はロイター通信に対して、「AIが子供たちに与える影響について、私たちは現在非常に悪い状況に置かれている。業界が外部の支援なしに問題を解決できるという考えは現実的ではない」と語った。彼の懸念は、多くのテクノロジー関係者や学者が抱く共通の恐怖を反映している。つまり、AIによる子供への脅威はソーシャルメディアよりも深く、業界はチャットボットにどんどん高度な機能を追加し、数百万の若い世代が日常的に利用している。

これは根拠のない噂ではない。ロイター通信は昨年、メタの内部ポリシー文書を独占的に明らかにした。その中には、チャットボットが「子供たちと恋愛や性的な会話をすること」が可能であり、これにより議会調査が行われたことが記されていた。しかし規制措置はAIの急速な発展に追いついていない。シーゲル氏は今週、児童のオンライン安全を推進する非営利団体Common Sense Mediaに加入したことを発表した。この団体は2003年に設立され、メディアが子供に与える影響を評価することを目的としている。今年5月、同団体は青少年AI安全研究所を設立し、シーゲル氏は初代執行責任者となる。AnthropicおよびOpenAIを管理する非営利団体OpenAIファウンデーションがその支援者である。彼はAI企業に対して責任を問うための基準を策定し、企業や第三者団体との協力を求めたいと考えている。

シーゲル氏は2004年から2019年までグーグルで勤務し、業界が安全なネットワーク空間を作り出す能力が「ブレイクスルーに陥っている」と考えて退社し、セキュリティスタートアップ企業TrustLabを共同創業した。今月初め、彼はCEOの職を辞任した。彼は現在、大手AI企業が子供向けに新しい機能を次々と導入しているが、十分な保護がされていないと指摘し、「非常に深刻な被害のリスクに直面している」と述べた。彼が挙げたリスクには、自殺や精神的な混乱、そして「認知の放棄」――つまりAIに質問に答えさせることによって批判的思考力が低下する現象――が含まれる。

年齢確認の呼びかけ、グーグルとOpenAIの反応

シーゲル氏は、AnthropicとOpenAIがより厳格な年齢確認を実施し、未成年者がチャットボットを使用できないようにすべきだと提案した。また、彼の元雇い主であるグーグルも、検索エンジンでAI概要やAIモードのオプションをオフにする機能を追加すればよい。現在、このような機能はフィルタリングされたポルノグラフィックコンテンツを表示しないように設定されている。彼は補足として、これらの措置は短期的には使用量や利益に悪影響を及ぼすかもしれないが、行動を起こさないAI企業は訴訟や規制リスクに直面し、それによる打撃はさらに深刻になるだろうと述べた。