世界的なハッカーでセキュリティ研究者であり、Comma.aiの創業者でもあるジョージ・ホッツ（George Hotz）氏は最近、ブログで現代のソフトウェア開発プロセスにおいてAIプログラミングエージェントに過度に依存することは、企業にとって最も高価な間違いの一つであると指摘しました。この意見は技術界で広範な議論と反省を引き起こしました。

統計的な模倣は真の知能ではなく、コードの欠陥は隠れやすくなる

「マジックボーイ」として知られるホッツ氏は、半年間にわたる深いテストを通じて、現在のAIプログラミングツールがプロジェクトの初期設計には適しているものの、ソフトウェア品質に影響を与える下層の細部では不向きであることを発見したと述べました。彼は強調し、大規模言語モデルは本質的に複雑な統計システムであり、コアタスクはプログラミングコードの分布を模倣することであり、本質的に問題を理解したり解決したりすることではないと述べています。

その結果、AIエージェントは見た目には綺麗なコードを生成することができるかもしれませんが、これにより潜在的な論理的なバグや欠陥がより難しくなるのです。能力の低い初心者がこれらの隠れたハードウェアやソフトウェアの問題を見抜くことは難しく、欠陥のあるコードを正式なシステムに組み込むことになるため、後々のメンテナンスコストが非常に高くなり、予測できない障害リスクも積み重なってしまいます。

業界の巨頭たちの態度が分かれる、認識の衝突が激化

ホッツ氏は自身の技術的判断が以前の楽観から全面的に疑問視へと移行したと認め、現在の立場はヤン・レクン（Yann LeCun）やギャリー・マーカスに近いと語っています。このAIプログラミングエージェントへの否定的な声は、テクノロジー界の一部のリーダーの前向きな態度と対照的です。

一方で、かつてテスラのAI責任者だったアンドレ・カパシ氏の態度は最近明らかに前向きに転じています。カパシ氏は、新しい世代の大規模モデルが次々と公開されることにより、AIエージェントは人類のプログラミング方法を永久に変えたと公言しています。これは、テクノロジー界がAIによる開発の未来について大きな認識の違いに直面していることを示しています。