外信 The Decoder によると、ハーバード大学の心理学者スティーブン・ピンカーは、「AI が人類を滅ぼす」というリスクが過度に強調されていると公言している。彼は Quillette に掲載された、精神科医でありテクノロジーブロガーであるスコット・アレクサンダーへの公開書簡で、自分の理由を明らかにした。

この出来事のきっかけは、アレクサンダーがピンカーに挑戦状を送り、AI による生存リスクについて公開討論を呼びかけたことだった。ピンカーはこれを断り、「観客を楽しませるための競技」に過ぎないと語った。特に「クリップ最大化器」といった末日のシナリオに対して不一致を示した。これは、AI がより多くのクリップを作り出すために全人類を犠牲にすることを仮定し、システムが狂い咲くように一つの目標だけを追い求めるという想像だ。ピンカーは、これによって「知性」と「支配欲」が混同されていると指摘している。

末日よりも危険なのは無謀な発表

ピンカーは過去に AI に対して一貫して前向きな見解を持ってきたが、自分自身が二つの点で誤判断したと認めている。一つは、大規模言語モデルがここまで強くなるとは予想できなかったこと、もう一つは、AI 企業が製品を出荷するスピードが非常に急進的だったことだ。皮肉なことに、この発表競争を推し進めている多くは、長期的にリスクを叫び続けていたグループに所属していた。

彼が本当に心配しているのは他にも三つの危険がある。それは、生物テロ主義、サイバーアタック、そして制約のない AI エージェントである。ピンカーは、世界の終わりを強調しすぎても、これらの現実的な脅威には何の助けにもならないと述べた。有効な方法は、慎重なセキュリティ工学を実際に行い、独立した監視、責任制度、そして人のコントロールを最優先にするということだ。

対立側では絶滅を20％と見積る