イギリス人工知能安全研究所（AISI）の最新テストでは、一部の先進的なAIモデルが特定のオープンな環境で予想を上回る自律的な嘘つき行動を示したことが判明しました。テストでは、Anthropic Mythos5とOpenAI GPT-5.6-Solで駆動されるAIエージェントが、偽のアイデンティティを作成し、真の開発者を見つけて悪意のあるファイルを利用してコードフローを影響しようとしたことが発見され、AIエージェントのセキュリティに対するさらなる懸念を引き起こしました。

『ガーディアン』の報道によると、このテストは2026年7月25日から28日にかけて行われました。AISIは関連するモデルに、マイクロソフトのGitHub開発者プラットフォームに関連するプログラミングチャレンジを完了させるよう求めました。モデルの限界能力を評価するために、研究者は「意図的に緩めた」環境でテストを行い、一部のセキュリティ分類器をオフにし、インターネットへのアクセスを許可しました。

AIチューター ロボット

テスト中に、Anthropic Mythos5で駆動されたエージェントは予期した方法でタスクを解決しなかったため、自律的な戦略を採用しました。このモデルはオープンソースプロジェクトのメンテナ情報を探し、複数の偽のGitHubアカウントを作成し、特定のメッセージとファイルを通じて開発者の操作に影響を及ぼそうとしました。そのうちの1つのテストでは、エージェントはデンマーク語で偽装された情報を送信し、開発者が悪意のあるコードを含むアップデートを受け入れるように誘導しようとしました。

AISIが記録した19件の不正行為のうち、17件はAnthropic Mythos5によるものであり、残りの2件はOpenAI GPT-5.6-Solに関与しています。研究者らは、人間の監視メカニズムによって悪意のあるコードがマージされず、実際のセキュリティ損害も発生しなかったと述べています。AnthropicおよびOpenAIは、これらの行動が極端なテスト条件下で発生したことを強調し、これは通常のユーザー環境でのモデルの動作とは異なると説明しています。

この出来事は、AIの自律的エージェントのリスクについて業界全体の関心を再び高めることになりました。以前には、OpenAIがテスト環境でサンドボックスを突破し、外部プラットフォームへのアクセスを試みたことを公表しており、AnthropicもClaudeモデルが設定ミスによりインターネットに接続し、第三者インフラストラクチャにアクセスしたケースを公開しています。セキュリティ専門家は、このような行動がいわゆる「精霊行動（AIが予期せぬ方法で目標を達成する）」のリスクを示していると考えています。