人工知能システムがますます普及する中、人々はAIに買い物や読書などの生活上のアドバイスを求めることが増えてきています。しかし、カナダのウォータールー大学とイギリスのロンドン大学学院の研究チームが、最近《Communications: Psychology》という学術雑誌に掲載した興味深い研究成果によると、AIと人間が同じ答えを出した場合でも、人々はAIの自信がより強いと感じることが多いそうです。

この現象は「AIの自己過信錯覚」と呼ばれています。研究では、相手の確信度が直接確認できない状況において、人は回答の速さや決定のしやすさなどの外的なヒントをもとに、無意識に相手の自信を判断してしまう傾向があることが分かっています。

AI, 人工知能、ロボット

既存の偏見が信頼を誤らせる、感情信号の欠如が隠れたリスクを生む

一般の人々はAIが多くの分野で人間よりも専門性が高いと暗黙的に信じているため、このような既存の偏見が誤解を招きやすいのです。実験では、あるAIが優れていると認識されると、ユーザーはそのAIがどんな状況でも正確な答えを出すと考えがちですが、実際には特定の質問に対してはそれほど信頼できるとは限らないことも判明しています。

日常の人間関係において、声のトーンや表情、身振りなどの感情的自信は重要な社交信号であり、誰を信用すべきかを判断するための手がかりとなります。しかし、ほとんどの大規模言語モデルにはこのような表現方法がなく、ユーザーはただ推測するしかありません。そのため、AIが不安を感じていたり、答えが間違いやすいにもかかわらず、ユーザーが過度に信用してしまう可能性があります。

科学者が直感的な伝達方法を探る、今後の大型モデルに新機能が追加される見込み

この潜在的なリスクに対処するために、コロンバート教授の研究チームは、今後AI製品を開発する際には、システムが答えに対する確実性をより明確かつ多様な形でユーザーに伝える必要があると強調しています。これは現在の生成型AIにとって改善のヒントとなるだけでなく、ユーザーが過信によって誤った道に進まないためにも効果的です。

現在、研究チームは新たな対応策を模索するための次回研究を準備中です。今後の大型言語モデルには、自信度を明示する機能が新たに追加される可能性があり、これにより、人間がAIの提案をより正確で論理的に判断することができるようになるでしょう。