コードを書け、数学の難問も解けるトップクラスの人工知能が、幼稚園レベルのスペルミスで何度も失敗している。グーグルが最近アップデートした人工知能の要約機能（AI Overview）は、頻繁にミスを犯し、テクノロジー界で再度笑い物になっている。公開テストでは、このAIは単語内の文字数を数えることができず、「Google」という言葉を間違えていた。

文字数を数えられないことがバッシングの原因

ユーザーからのフィードバックによると、グーグルのAIは基本的なスペルに対して非常に奇妙な反応を見せている。例えば「poop」には文字rが含まれていると主張し、大統領の苗字を誤った文字列で表している。メディアによる公開的な質問に、グーグルは公式に返答し、大規模言語モデルが単語内の文字数をカウントする際に常に問題があることを認め、チームは現在この低級なミスを修正しようとしている。

語彙構造が「読み書きできない」原因

研究者らは、このようなスペルミスは大規模言語モデルの下部にあるTransformerアーキテクチャの限界によって決まっていると指摘している。AIはテキストを処理する際、人間のように具体的な文字を読むのではなく、テキストを「トークン」と呼ばれる数字表現に分割する。モデルが全体の単語や音節を表すコードしか認識できないため、単語内部の文字構造を感知することはできず、現時点での技術枠組みではこのスペルミスを完全に排除することはほぼ不可能である。