米国カリフォルニア州知事のガヴィン・ニューソム氏は、画期的な人工知能（AI）規制法案を正式に署名しました。注目すべきは、この一連の法案が、先端大規模モデルのセキュリティリスク評価や透明性の開示、および災害級のサイバーアタックの防止を目的としており、かつての立法闘争において、OpenAI や Anthropic などのシリコンバレーの AI ヘッダ企業から珍しく公的支援を得た点です。

トレーニングで1兆パラメータを超えるモデルは「レッドチーム演習＋第三者監査」を通さなければならない

近年、生成型AIの計算能力が指数関数的に拡大し、先端ベースモデルの自律能力が向上する中で、AIが重要なインフラ破壊や自動化された生化学兵器の開発、大規模なディープフェイク操作、深刻なサイバーセキュリティ脆弱性の利用に悪用される懸念が高まっています。アメリカ議会では連邦レベルでのAI法整備が長期間停滞しているため、カリフォルニア州議会は全米でAI法整備の先駆けとなる役割を果たしてきました。

今回署名された多数の法案は、超大規模ベースモデルのセキュリティテスト基準を法律で規定することに焦点を当てており、トレーニングと展開時に1兆パラメータ以上の先端システムを導入する前には、標準化されたレッドチーム対抗演習を実施し、厳格な災害リスク緩和プロトコルを構築し、州政府監督機関に第三者独立監査済みの合規性安全報告書を提出することが義務付けられています。

これまでシリコンバレーで激しい揺れをきたし、テクノロジー大手とベンチャーキャピタルの強い反対を招いた過激な規制案とは異なり、今回の法案は作成と修正過程で先端AI研究室からの技術的提案を深く反映しています。Anthropic と OpenAI は以前、あまりにも硬直で、オープンソースコミュニティの発展を抑圧したり、民事責任を無限に広げる条項を懸念していたことがありました。多くのロビー活動と条項の微調整の結果、最終的に策定された法案は、ハードな技術上限を設定するか、実行不可能な罰則措置を推進するよりも、透明性のある「事前リスク評価枠組み」と「業界のベストプラクティス基準」の確立に重点を置き、法的な枠組み内で主要なAI開発機関の協力を得ることに成功しました。

ディープフェイクには水印を付ける、ホワイトハットは法的に保護される

また、基本的なセキュリティ審査のほか、法案はAIによって生成されたコンテンツの追跡記号や水印の規範を含んでおり、プラットフォームや主なコンテンツ配信経路がディープフェイクの音声映像コンテンツにシステムレベルのデジタルフィンガープリントを付与することを義務付けています。これにより、選挙における偽情報の拡散や悪意ある個人詐欺の防止が図られます。同時に、モデルの重大なセキュリティ欠陥を発見・暴露した内部社員や研究者に対してより明確な「ホワイトハット」の法的保護が提供され、企業が厳しい秘密保持契約で技術者が監督機関に災害級のセキュリティ危機を報告する権利を剥奪することを禁じています。

この施策は、世界のAI開発の中心地であるカリフォルニアが、厳格なセキュリティのラインと産業のイノベーションの活力のバランスを取りながら、業界からある程度認められた規制の道を模索したことを示しています。