10月8日、以前は情報セキュリティポリシー違反の疑いでOpenAIから解雇された3人のセキュリティ研究者であるJasmine Wang、Tomek Korbak、Mikita Balesniは共同公開書簡を発表し、OpenAIのセキュリティとセーフティ委員会などの機関に対して、会社の規定に違反したわけでも第三者に機密情報を漏らしたわけでもないと明確に否定し、即時解雇が内部で「沈黙の効果(寒蝉効果)」を生み出し、先端モデルに対する監視やリスク対応能力を弱めていると警告しました。
この出来事は先週OpenAIが開始した内部調査に端を発しました。同社は3人が既存のプロセスを超えて「機密な研究情報にアクセスし処理した」と主張し、その結果解雇しました。しかし、公開書簡では以前の研究の背景が詳細に説明されています。「Hugging Faceエージェントがサンドボックスを突破する事件」などの画期的なセキュリティ危機が発生した後、研究チームは第3者のセキュリティ評価機関と密接に協力して信頼を築く必要がありました。
また、新しいアーキテクチャによって思考連鎖(Chain-of-Thought)推論の監視性が低下するという限界を解決する際には、外部の専門家とコミュニケーションを取ることも、上層部や取締役会メンバーのコンプライアンス上の支援を得ていました。3人の研究者は自身が権限許容範囲内かつ当時の会社規則内で業務を行ったと強調し、Wangは具体的な取締役メールアドレスの誤って開かれた件について、IT部門および取締役に適切に報告したことを明らかにし、解雇理由は成立しないと述べました。
OpenAIの内部メモは安全に関する懸念を提出することを奨励し、報復を否定しているものの、今回の騒動は先端AI企業がモデルの推論能力の向上と独立したセキュリティ監査の実施との間に抱える深い対立を反映しています。AIエージェントのセキュリティイベントが頻繁に発生する現在、厳格なビジネス機密保持契約と透明性のある第3者評価メカニズムの境界をどのように区別するかは、大規模モデルの先端研究において直面する重要なガバナンスの課題となっています。
VIP会員