米国政府関係機関が、特定の国からのオープンソースAIモデルを使用することを本国企業に禁止する可能性があるという憶測に対して、Anthropicの共同創業者兼CEOであるダリオ・アモデイは公式的な声明を発表し、明確に線を引いた。Anthropicはオープンソースモデルの禁止を提案したり主張したことは決してない。

最近、オープンソースモデルを封殺する議論が業界内で大きな反響を呼んでおり、多くのテクノロジー企業が公開書簡に署名し、オープンソースモデルを支持している。一部では、Anthropicが行政的な禁止措置を利用して競合を圧迫し、自社の商業的利益を守ろうとしているとの疑問も出ている。アモデイはこれを明確に否定し、リスクのないオープンソースモデルは非常に価値ある公共財産であり、コストが低く、企業、開発者、研究者にとって大きな推進力になると説明した。保護主義的な禁止措置は、本当の国家安全保障上の懸念を解決するにはならないだけでなく、業界の独占を助長する道具になる可能性もあり、これはAnthropicの立場や目標とは決して一致しない。

記事の中で、アモデイはAI技術と国家安全保障に関する本質的な懸念を2つの層に分けて述べた。第一の層は、威権政体が米国よりも優れたAIシステムを活用し、永久的な軍事的優位性を得たり、内部監視を深めてしまうリスクである。彼は、このようなリスクにおいて、モデルがオープンソースかどうか、または米国の企業がそのモデルを使用するかどうかが重要な要素ではないと指摘した。最も危険なのは、秘密裏に開発され、軍や情報機関だけに提供されるようなモデルである。第二の層は、強力なAIモデルが悪意を持って大規模なネットワーク攻撃や生物兵器の開発に使われてしまうリスクである。オープンソースモデルは、継続的なセキュリティ対策やモニタリング手段がないため、公開後に取り戻すことが困難で、セキュリティ管理において高い課題を抱えているが、合法的な国内企業がオープンソースモデルを使用することを単純に禁止しても、不正な参加者を阻止することはできず、こうした脅威を実際に軽減する効果はほとんどない。

上記のリスクに対処するために、Anthropicは3つの実行可能な政策提言と規制主張を提案した。まず、重要な計算能力が潜在的な脅威側に流れないように厳しく制限すること。高性能チップおよび製造設備の輸出規制を継続し、あらゆる種類の違法な密輸や代加工を厳しく取り締まるべきである。これにより、高リスクモデルの訓練に必要な計算能力の供給源を断つことができる。第二に、国境を越えての大規模な「モデル蒸留（Distill）」行為を抑止すること。一部の機関は、蒸留などの低コストな手法を使って前線の閉鎖型モデルの機能を一括して取得し、開発サイクルを大幅に短縮している。このような計算能力の封鎖を回避するための不正利用を防止するためには、より明確な法律とビジネス上の罰則制度を整える必要がある。最後に、すべての高能力モデルについて、公開前に完全かつ強制的な安全テストを行うこと。オープンソースであれ閉鎖型であれ、誰かに配布する前または特定の機関に届ける前には、サイバーセキュリティ、バイオセキュリティ、そして整合性のリスクをカバーする厳しいテストと評価を受ける必要がある。モデルの安全性は、主観的な前提条件ではなく、客観的で厳格な実証検証に基づくものでなければならない。

アモデイは結論で、業界が「オープンソース対閉鎖型」という無限に続く内耗に陥ることなく、算力の管理、違反的な蒸留の対策、そして世界統一の安全テスト基準の構築に焦点を再び移すべきだと強調した。そうすることで、人工知能は制御可能で安全な条件下で持続的に進化できるだろう。