人工知能の進展が業界の期待をはるかに超えている中、AI安全の先駆者であるは、米国現地時間10月11日に、シンクタンク「アンソロピック研究所」を設立することを正式に発表しました。この団体の使命は、より強力なモデルを開発することではなく、人間社会に与える「強力なAI」の深層的な課題や深刻なリスクを研究し、解決することにあります。

は、今後2年以内に人工知能が飛躍的な進歩を遂げるだろうと予測しており、ほとんどの人々が想像するよりも早く汎用人工知能（AGI）の境界に近づく可能性があると考えています。そのため、新設されたシンクタンクは以下の4つの主要な分野に注力します：

  • 雇用と経済の変革: AIの自動化によってグローバル労働市場がどのように再構築されるのか、それに応じた対応メカニズムについて研究します。

  • 脅威と防御的耐性: 生体安全保障やサイバーアタックなどの高リスク分野におけるAI技術の誤用を防ぎ、社会の防御力を強化します。

  • AIの価値の整合性: 先端的なAIシステムの決定が、人間の倫理基準や公共の利益にどう一致させるかをどう確保するか。

  • 自己ループ型ガバナンスシステム: AIが自己監督および自己進化プロセスにおいて透明性とコンプライアンス管理をどう探索するか。

の目標は、テック大手企業内の閉鎖性を打破することです。これは橋渡しの役割を果たし、最先端システムの開発過程で直面する実際の技術的課題を一般市民や意思決定機関と共有し、外部の研究機関、政策立案者、市民社会団体と深く協力して解決策を開発するものです。

最近、は商業的に非常に好調です。そのというモデルが、の下で開発されているもので、一日あたり百万以上のユーザーを追加したとの報道があります。しかし、計算能力と富の急増の裏側でも、