最近、サイバーセキュリティ分野では、大規模言語モデル（LLM）を活用して悪意のあるソフトウェアを開発する事例が明らかになりました。セキュリティ研究者であるSibi Moosaによると、ネットワーク上の名前「mousie-5212-super-formatter」を持つ悪意のある開発者が、Anthropic傘下のAIモデルClaudeを利用して悪意のあるコードを記述し、npmパッケージマネージャーのエコシステムを広範囲にわたって汚染したと指摘されています。この攻撃者は短時間で670個以上の悪意のあるスクリプトを含むソフトウェアパッケージをnpmリポジトリに送信し、その自動化度と生成速度が業界全体に深刻な警戒をもたらしました。

claude, クロード

この攻撃の核心は、AIを活用して悪意のあるコードの作成のハードルを大幅に下げたことにあります。これらの汚染されたnpmパッケージは、開発者の機密的な認証情報（npmトークンやGitHubトークンなど）および内部のプライベートGitHubリポジトリのソースコードを盗むように設計されています。攻撃者はClaudeを使用して論理的に严密な盗み出すスクリプトを生成し、取得したデータを自身が制御するリポジトリにアップロードしています。この出来事は、生成型AIが開発効率を向上させる一方で、攻撃者が攻撃効率と自動化レベルを向上させる「倍増器」として利用されていることを示しています。

専門家は、このようにAIモデルを活用して自動化されたパッケージの汚染とコードの盗み出しを行うことによって、サプライチェーン攻撃が知的化された新しい段階に入ったことを指摘しています。従来のシグネチャベースの防御メカニズムでは、AIによって生成され、非常に変異しており、見せかけに惑わされるような悪意のあるコンテナに対応することが困難です。AIプログラミング補助ツールの普及とともに、モデルが不正に悪意ある開発や脆弱性の探求に利用されることがないよう防止するためには、AIセキュリティガバナンスが直面する課題として迅速な対応が求められています。