今週水曜日に行われたダボス・ワールド・エコノミック・フォーラムで、AIスタートアップの巨頭アンソロピック（Anthropic）の最高経営責任者であるダリオ・アモディ氏は、改訂版「クレード憲章（Claude Constitution）」を正式に発表しました。80ページにわたるこの動的ファイルは、クレードの運用背景についての包括的な説明だけでなく、競争が激化するAI分野で「倫理の基準」としての地位を確立しようとするアンソロピックの重要な行動でもあります。

Claude

コアな理念：「憲法」で人間の介入を置き換える

OpenAIやxAIが人間のフィードバックに焦点を当てたトレーニングモデルを採用しているのとは異なり、アンソロピックは独自開発した**「憲政AI（Constitutional AI）」**システムを堅持しています。このシステムでは、モデルが特定の自然言語命令に基づいて自己監督することで、有害、差別的、または違反的な内容が発生することを根源的に防ぐことが可能です。

4つの核心価値観：より「自制心のある」AIを作る

改訂された憲章は、クレードの行動指針を4つの次元に細分化し、包容力があり、民主的で理性的な存在としてクレードを構築することを目指しています:

  1. 全体的な安全性: 心理的健康危機や生命の危険がある入力に対して、クレードは緊急サービスへの導線や安全情報を提供するよう求められ、単なるテキスト返答のみを行うことはできません。

  2. 広範な道徳感: ドキュメントでは「倫理的実践」が「倫理的理論」よりも優先され、クレードは現実世界における複雑な倫理的状況に柔軟に対応することが求められます。

  3. 合規性の制約: 生物兵器の研究など高リスクかつ敏感なトピックについては議論を禁止しています。

  4. 真心からの支援: クレードはユーザーの「即時のニーズ」と「長期的な幸福」を考慮し、一時的な利益だけを満たすものではなく、最適な解釈を提供しなければなりません。

ブランドの差別化：倫理こそが競争力

技術業界が一般的に破壊的な進化を追求する中、アンソロピックは比較的「退屈」だが安定した道を選択しました。この詳細な文書を通じて、アンソロピックは業界内でより社会的責任を持つ企業としての位置づけを示し、争议と過激な成長を追求するライバルと区別しています。

哲学的考察：AIには意識があるのか?

注目すべき点は、憲章の終わりに劇的な哲学的質問が提示されていることです：「クレードの道徳的地位は極めて不確実である。」