最近、OpenAIは公式に求人情報を発表し、高額な給与で新しい準備担当責任者（Head of Preparedness）を募集しています。AIbaseの報道によると、このポジションの初任給は55.5万ドル（約400万人民元）に達し、さらに優遇される株式報酬も含まれています。

今回の採用は通常の人事変更ではなく、OpenAIが「先端リスク」に対してますます懸念を深めているためです。CEOのSam AltmanはSNSのXで、現在のAIモデルが実際に問題を引き起こし始めていると率直に語っています。例えば、あるモデルはコンピューターセキュリティ能力が非常に強く、重要なシステムの脆弱性を自主的に見つけることができるのです。また、AIが人の心理健康に与える潜在的な影響にも、会社は高い関心を寄せています。

AIbaseが入手した情報によると、新任の責任者は「準備フレームワーク」を実行する役割を担います。このフレームワークの主な任務は、重大な被害を引き起こす極端なリスクを追跡し、対応することです。対象分野はネットワークセキュリティや生物安全だけでなく、システムの「自己改善」によって生じる予測不能なリスクも含まれます。簡単に言えば、この主管はAIが強力な能力を解放する一方で、防御者が攻撃者よりも先んじて行動できるようにする必要があります。

注目すべき点は、このポジションは以前Aleksander Madry氏が担当していましたが、彼は最近AI推論部門に異動し、会社内部では複数のセキュリティ責任者も相继して退職または異動しました。内外からの圧力の両方の要因により、OpenAIはこの重要な空席を埋める強力なリーダーを急いで必要としており、最近社会的な議論を呼んだAIによる心理的健康への影響などの問題に対して実効性のある対策を提示する必要があります。

ポイント：

  • 💰 高額採用：OpenAIはこのポジションに55.5万ドルの年収と株式報酬を提供し、AIが引き起こす「災害的なリスク」に対応します。

  • ⚠️ リスクの増加：Sam Altmanは、AIが心理的健康への影響や自動化されたネットワーク攻撃において現実的な脅威を示していると警告しています。

  • 🛡️ フレームワークの実行： 新しい主管は準備フレームワークを実行し、ネットワークセキュリティ、生物安全およびモデルの自己完備による潜在的な危険を重点的に監視します。