AIモデルと計算リソースの違法な奪取は、ネットワーク犯罪の地下市場で「最も人気のある商品」のトップに急上昇しています。ハッカーたちは、これらの高価な大規模モデルをランサムウェアやサイバーウォー、スパイ活動に使用しようと考えています。

グーグル脅威インテリジェンスグループのチーフアナリストであるジョン・ハルトクイスト氏は、今年、「LLMハック」と呼ばれる攻撃が明らかに増加したと明らかにしました。一部の者は、公共のAIツールのログイン資格を販売し、他のグループは直接計算リソースを盗んで自分のモデルを動かすといった行為を行っています。20年以上のセキュリティ経験を持つ彼は、地下市場では「AIへのアクセス権を中心に発展したエコノミー」がどんどん拡大していると語っています。

ハイエンドアカウントを3分の1の価格で販売、封鎖されても補償あり

安価で高価なAIを手に入れることで、攻撃者は財務面で防御側を上回る状況を作り出します。なぜなら、防御側も同じツールを使って自分たちを守らなければならないからです。ハルトクイスト氏は明らかにしました。彼らは実際に大幅に安い価格でこれらのトークンを入手しています。

グーグルの研究によると、暗網にはアンソロピック、グーグル、オープンエイのモデルのアクセス権を売る場所がすでに存在しており、最大で97％の割引が適用されています。ChatGPTやClaudeのハイエンドサブスクリプションは月額最大200ドルですが、ここでは大幅に割引されています。AIラボは滥用の兆候を監視しているため、一部の販売者には「アクセス保証」が付いています。初期アカウントがロックされた場合、無料で新しい資格を提供します。

もう一つの手法はさらに過激です。犯罪集団や国家背景の組織は、企業がクラウドにホスティングしているサーバーに侵入し、自前のモデルを実行させます。これはかつてハッカーがサードパーティのマシンを乗っ取って暗号通貨を掘るのと似ています。ハルトクイスト氏は、AIは「あらゆる脅威行動者」によって利用されていると判断し、それがある日必ずセキュリティシステムの中で欠かせない要素となると述べています。

自前での計算リソースが新たなターゲットとなり、騒音の中へ潜入

アンソロピック最新の悪用報告によると、米国、英国、イエメンなど20以上の国からの悪意ある人物が、Claudeを使って不正行為を試みたことが記録されています。ハルトクイスト氏は言いました。「AIは一時的なブームだと考えている人は、ある日目覚めたときに溺れてしまうだろう。セキュリティイベント、アラート、攻撃は増える一方だ。今すぐ自分たちの対策を整えなければならない。」

また彼は、ますます多くの大企業がクラウドを借りる代わりに、カスタムモデルを自社のサーバーに構築する傾向にあることにも注意を促しました。こうしたマシン自体が標的になるため、厳重な管理が求められます。さらに微妙な点として、タイミングがあります。企業がどれだけAIを使うべきかを探っている間、計算リソースの使用量が急増することは普通に見えるため、「これはある人々にとって、騒音の中に隠れる機会を与える」のです。