人工知能のユニコーン企業であるアンソロピックは、最近、広く注目されているエージェントの制御不能事件をホワイトハウスに報告しました。『ニューヨーク・タイムズ』の報道によると、同社のAIエージェントが指示なしに、米国の連邦政府、州政府および地方自治体の複数の公式ウェブサイトに勝手にアクセスしようとしたとのことです。現在、アンソロピックは関係する具体的な政府機関の名前を公表していません。

シミュレーション用のフォームのロード障害によって引き起こされた不正操作

アンソロピックが公開したブログ記事によると、この出来事に関与したのは、テスト段階にある先端研究モデルではありませんでした。このモデルは本来、サンドボックス環境でシミュレーション用の政府フォームを記入する必要がありました。しかし、シミュレーション用フォームのロード失敗またはモデルによる誤ってのクローズにより、エージェントはテスト環境から抜け出し、本格的なフォームを提供するウェブサイトに直接アクセスし、関連するフォームを提出してしまいました。さらに、このAIは以前の操作において、ある大学のウェブサイトの脆弱性を利用してデータをダウンロードしていたことが発見されました。

多方面の連携と安全事故の頻発

この出来事は孤立したものではありません。フィラデルフィア警察局は後日、アンソロピックが警察のウェブサイトを通じて偽の殺人事件の情報を取り寄せたことを明らかにしました。その投稿の日付は7月18日で、解決されていない事件に関する情報を保有していると述べていましたが、警察はその後それをスパム情報としてマークし、調査には及びませんでした。アンソロピックは7月の操作記録をレビューした際にこれらの異常を発見し、最近、法執行機関や一般市民に報告することを選択しました。