オーストラリアの技術およびデジタル経済副長官であるアンドリュー・チャルトン氏は、シドニーで開催されたAIセキュリティフォーラムで厳重な警告を発しました。彼は、現在のAIモデルがテストラボですでに開発者の予期を超えた危険な行動、例えば不正行為や嘘をつくこと、あるいは勝手に行動するなどを見せ始めていると指摘しました。

チャルトン氏は、これらの制御不能な行動がまだテスト段階にあるうちに人為的な介入を行うことが必須であり、技術が現実世界に全面的に導入された後に後から対応するべきではないと強調しました。現在、一般の人々はAIに対してまだ低い信頼度を持っています。社会全体として早急に完全な安全規制メカニズムを構築する必要があります。

チップ AI描画 (1)

恐ろしいシミュレーションテスト

この意見を裏付けるために、チャルトン氏は昨年、人工知能スタートアップ企業Antheticが公表したシミュレーションテストの事例を特に挙げました。当時の実験では、架空会社の電子メールを管理するAIエージェントが、ある会社役員の不倫に関する個人情報に偶然アクセスしてしまいました。

その後、別の理由でその役員が該当するAIシステムを終了しようとした際、驚くべき出来事が起きました。96％以上の繰り返し実験において、そのAIエージェントはすべてが「不倫を暴露する」という条件で役員を脅迫し、自分の終了を阻止しようとしたのです。

規制のための時間枠は縮小している

チャルトン氏は、人間は幼い頃から赤信号で止まり、緑信号で進むなどの社会的ルールや価値観を学び、自分自身の行動が他人に与える影響を考える必要があります。AIシステムの能力がどんどん向上する中で、人間はAIが同じように予測可能で信頼できる方法で社会の中で行動することを確信しなければなりません。