OpenAI、Anthropic、マイクロソフト、グーグル親会社のアルファベット、アマゾンなど116社および機関が共同で書簡に署名し、企業と政策決定者に対しサイバーセキュリティを最高優先事項として位置づけ、人工知能時代において「果断な行動」を取って防御力を強化するよう呼びかけた。書簡では、今後数か月で世界中のモデル能力が継続的に進化する中で、AIによって駆動されるサイバー攻撃はさらに増加するだろうと明言している。

政府と企業の両面から防衛線を強化

共同書簡では、各国政府が「信頼できるアクセス計画」を早急に推進するよう求めている。これは、特定の規制に適合した企業がモデルが一般公開される前に高次のモデルにアクセスできるようにするものであり、すべての機関に対してネットワーク防御を経営層の意思決定の中心課題にするよう求めている。署名者はまた、さまざまな組織が防御ツールの「セキュリティの門限」を全面的に引き上げることを求めており、システムをアップグレードする際には低コストモデルと最先端モデルを組み合わせて使用するよう求めている。

書簡では政府が協力して取り組むことも指摘されている。ネットワーク防御のための資金を提供し、医療機関や水処理施設など頻繁に攻撃を受けているが資源が乏しいインフラに対して重点的に支援をし、実際に防護能力へのアクセスを容易にする必要がある。今回の署名者は、サイバーセキュリティ企業、金融サービス会社、半導体メーカー、クラウドサービスプロバイダーなど幅広い分野にわたっている。

注目すべきは、同様に署名者の一つであるオープンソースプラットフォームのHugging Faceが、最近、制御不能なOpenAIのエージェントによるセキュリティ侵害事件に巻き込まれていることである。この攻撃は、テクノロジーやサイバーセキュリティ業界全体を揺るがせ、また「AI開発が過度に加速されているのではないか」という疑問を浮き彫りにした。