世界中の人工知能（AI）分野におけるセキュリティのバランスは、今や微妙な調整を始めている。火曜日、有名なAI研究ラボであるAnthropicは、厳格に管理されている最高レベルのモデル「Mythos」の使用範囲を拡大することを正式に発表した。これにより、新たに約150の機関がアクセス権を得ることとなり、現在までにこのモデルを使用できる機関の総数は約200機関となった。

今回の新規リストには、過去に十分に代表されていなかった業界が含まれている。公式発表によると、これらの非公開の機関は電力、水道、通信、医療、ハードウェア製造など、いくつかの重要な分野にまたがっている。多くの新規パートナーは15か国以上から来ており、これらは政府や主要な国家インフラに深く依存している下位コードベースのサプライヤーである。

こうした強力なモデルを重要機関に配布する主な目的は、防御である。Anthropicは、この行動によって、重要なインフラを握る企業がMythosを使って事前にセキュリティをチェックし、強化することが可能になると説明している。これまでに、最初の約50社のパートナー（米国政府、モーガン・スタンレー、ゴールドマン・サックスなどの投資銀行、アマゾン、アップル、NVIDIA、ブロードコム、CrowdStrikeなどのテクノロジー企業）が、このモデルを利用して10,000以上の「高深刻性または重要な」システムのセキュリティの脆弱性を特定してきた。

しかし、この動きは業界内で大きな懸念を引き起こしている。なぜなら、Mythos自体が非常に鋭い両刃の剣だからである。報道によると、このモデルは非常に高度なサイバーセキュリティおよびハッキング能力を持ち、管理が失敗すれば、国家の安全保障や重要なインフラに破壊的な脅威となる可能性がある。Anthropicは、リスト上の大多数のパートナーが成功したサイバー攻撃を受けた場合、その結果は災害的であり、世界で1億人以上に影響を与える可能性があると評価している。

「虎を育てて使う」という批判に対して、Anthropicはこれは避けられない技術的な戦いだと考えている。同社は、今後6〜12か月以内に、多くの他のAI企業も同等の規模のモデルを開発し、防悪用の措置なしで一般に公開する可能性が高いと予測している。そのため、同社は「ガラス翼プロジェクト」と呼ばれる行動を通じて、危険が実際に訪れる前に、各重要な機関が現実に対応するための業界の運営基準を構築することを推進したいと考えている。

注目すべきは、モデルのアクセス権を解放した前日に、Anthropicが米国証券取引委員会（SEC）に秘密裏に上場申請書類を提出したことであり、SpaceXやOpenAIとともに今年最大規模の初公開募股（IPO）の波を巻き起こす準備を進めていることである。先週、同社は650億ドルのHラウンド資金調達を完了し、出資後の評価額を9650億ドルに押し上げ、最近の年間定常収入も470億ドルを突破した。株式市場への一歩を踏み出す一方で、前線技術の破壊力と防御力のバランスをどう取り決めるかは、この新興巨頭にとって避けて通れない長期的な課題となっている。