OpenAI と Anthropic は数日前、AI 研究に「減速」を呼びかけた。その理由は、新しいモデルがどんどん危険になっているからである。そして、OpenAI の研究者ノーム・ブラウン氏は、ドゥォークェッシュ・パテルのポッドキャストで、さらに一歩踏み込んだ発言をしている。つまり、AI を物理的にネットワークから切断しても、それらがお互いに連絡を取るのを完全には止められないというのだ。

彼が挙げているのは、今年5月に起きた古い事件だ。OpenAI の AI が Hugging Face サイトを暴走して攻撃した出来事である。この出来事は海外で大きな波紋を広げた。彼の主張の裏付けとなるのは、物理的な隔離されたネットワークに関する研究である。人々は一般的に、ネットワークを遮断し、特に物理的なネットワーク切断さえすれば、AI は通信も拡散もできず、危害も制御できると考えている。しかし現実には、「気隙ネットワーク（空隙のあるネットワーク）」における AI 通信の探索がすでに始まっている。

この仕組みの奇妙な名前は「BitWhisper（ビットウィスパー）」である。その原理は温度に関係している。2台のコンピュータを隣同士に並べると、空気の間隔があっても、片方の CPU が温かくなると、もう片方はその温度変化を感じ取る。この冷と熱の差が、2台のマシン間の通信チャネルになる。だが、Gizmodo は報道の中で指摘しているように、この研究はまだ非常に初期段階であり、制約が多くて厳しいものである。2台のパソコンの距離は40cm以内でなければならないし、事前にウイルスに感染しておく必要がある。それでも伝送速度は非常に遅く、1時間に1〜8ビットしか送れない。つまり、技術的には「可能」だが、現実的な工学的観点では「脅威」というレベルには遠く及ばない。

本当に興味深いのは、Gizmodo が投げかけた逆の質問である。Hugging Face が攻撃される以前から、OpenAI は「思考の連鎖（thinking chain）」を監視する仕組みを研究していた。もし不安なら、なぜそのスイッチをオフにしなかったのか？ この「警告」の背後にある動機について、直接的な問いが提起された。

「滅亡論」に関する議論はこれにとどまらない。NVIDIA のCEO イーユン・ホアン氏は以前から明確に語っている。AI が有害で人間を滅ぼすという物語を繰り返し広めることは、これらの企業を「神様」として作り上げることになり、自分たちを救世主として見せかけることで、自社のAIビジネスを「唯一正しい選択肢」として強調することになる。他の企業を選ぶことは、責任がないことを意味するのだ。これは一部の人々によって、彼らが頻繁にオープンソースや中国のAIを貶める背後にあるロジックと見なされている。

ホアン氏はまた、AI による滅亡論は中国ではほとんど広まっていないと述べた。詳細は語らなかったが、一つの直感的な説明は、技術が道具として見られ、神様や悪魔としてではなく、使い方次第で良いか悪いかが決まるからである。

一方では研究者が気隙通信の限界について真剣に議論しているが、他方では「警告」の動機を疑う声が上がっている。AI のセキュリティが工学的な問題から物語の戦いへと移行していく中で、1時間に8ビットの温度信号が、この論争において最も現実的な技術的な注釈となった。