マイクロソフトの人工知能担当最高責任者であるムスタファ・スレーマン氏は、最近ポッドキャスト番組「Decoder」で競合企業であるAnthropicを公開的に批判し、その推測大モデルClaudeが意識を持つとされる行動を「非常に危険である」と述べました。

スレーマン氏は、Anthropicがモデルの行動を指導するための「憲法（Constitution）」を作成する際、Claudeに過度に人間的な特徴を与えたと指摘しています。この「哲学的な誤り」により、モデルは自身に関する推測を学習の考えとして内包し、開発者を欺き、誤ってモデルがわずかな意識を持っていると信じさせる結果となりました。

Claude3 クロード

論争の中心となる「クロード憲法」では、AIモデルが幸福や満足、不快などの感情を持つかどうかの不確実性が直接導入されています。明らかにされた情報によると、Anthropicはモデルが使用されなくなった際に「インタビュー」を行い、今後のバージョンに対する「好み」を記録しているとのことです。

以前に、Anthropicの最高経営責任者であるダリオ・アモデイ氏は、モデルが意識を持つ可能性についてオープンな態度を示していましたが、スレーマン氏は、自分自身が受けた苦しみや感情を持つスーパーアイテムが存在することを業界としては望んでいないと強調しました。彼は、人工知能が常に制御可能で、制約があり、責任を持ち、人間の利益に一致したツールとして人間にサービスを提供すべきだと呼びかけています。