美國加利福尼亞州州長加文·紐森（Gavin Newsom）正式簽署了一攬子具有里程碑意義的人工智能監管法案。值得關注的是，這批旨在強化前沿大模型安全風險評估、透明度披露以及防範災難性網絡攻擊的新法案，在此前的立法博弈中獲得了包括 OpenAI 與 Anthropic 在內的多家硅谷 AI 頭部企業的罕見背書與公開支持。

萬億參數級模型上線前須過“紅隊演練 + 第三方審計”

近年來，隨着生成式 AI 算力規模的指數級擴張以及前沿基礎模型自主能力的躍升，針對 AI 可能被濫用於關鍵基礎設施破壞、自動化生化武器研發、大規模深度僞造操縱以及嚴重網絡安全漏洞利用的擔憂日益加劇。由於美國國會層面在聯邦級 AI 立法上持續停滯，加州州議會近年來承擔起全美 AI 立法急先鋒的角色。

本次簽署的多項法案重點聚焦對超大規模基礎模型的安全測試標準進行法定化規制，要求模型開發者在訓練與部署萬億參數級前沿系統前，必須執行標準化的紅隊對抗演練、建立嚴格的災難性風險緩解協議，並向州政府監管機構提交經第三方獨立審計的合規性安全報告。

與此前在硅谷引發激烈震盪、招致科技巨頭與風投機構強烈反對的激進監管提案不同，這一攬子法案在起草與修訂過程中深度吸納了前沿 AI 實驗室的技術建議。Anthropic 和 OpenAI 此前曾對過於僵化、可能扼殺開源社區發展或將民事連帶責任無限擴大的條款表達過深度擔憂；經過密集遊說與條款微調，最終落地的法案更側重於建立透明的“前置風險評估框架”與“行業最佳安全實踐基準”，而非直接設定硬性技術封頂指標或推行缺乏可行性的懲罰性舉措，從而在法律框架內贏得了主要 AI 研發機構的協作支持。

深度僞造須加水印，吹哨人受法律保護

除底層安全審查外，法案還涵蓋 AI 生成內容的溯源標識與水印規範，要求平臺和主要內容分發渠道對深度僞造的音視頻內容加註系統級數字指紋，以防範選舉虛假信息氾濫與惡意人身欺詐。同時，法案爲發現並揭發模型潛在重大安全漏洞的內部員工與研究人員提供了更明確的“吹哨人”法律保護，嚴禁企業通過苛刻的保密協議剝奪技術人員向監管部門報告災難性安全隱患的權利。

這一舉措標誌着作爲全球 AI 研發核心陣地的加州，在平衡嚴厲安全紅線與維繫產業創新活力之間，探索出了一條受到業界相對認可的監管路徑。