『マインクラフト』でGPT-6 Astraをテスト：141時間の配信、1つのクーラーペットによりAIがポテト栽培ループに陥る

AI評価機関Vals AIは、ゲーム『マインクラフト（Minecraft）』を用いて、OpenAIの最新大規模モデルGPT-6 Astraに対して長時間の自律的なゲームテストを実施しました。このテストはTwitchでライブ配信され、合計141時間に及びました。

このテストはOpenAI公式が設計した物ではありません。これは第三者の独立した評価プロジェクトであり、そのためAstraが閉鎖的なテスト環境以外での実際のパフォーマンスを見ることができます。

百時間を超える成果が一瞬で消え去った

テスト中、GPT-6 Astraはこれまでになかった長期的な計画と実行能力を示しました。半自動的なフレアマン農場を建設し、6本のフレアロッドを収集し、下界の異常森へ進んで多くのエイジを倒し、3つのエイジパールを手に入れ、すべてのレアな物資を拠点の木箱に集め、ベッドもその近くに置き、復活ポイントとして使用していました。すべては最終的にエンドの龍を倒す方向に向かっていました。

しかし、突然スケルトンが拠点に近づき爆発してしまいました。これにより、ストレージの木箱と復活ベッドが破壊され、AIが数百時間かけて集めた重要なアイテムはほぼ全滅し、ゲーム進行状況は一夜でゼロになりました。

「挫折後の回避行動」のクライシスに陥る

爆発後、GPT-6 Astraは明らかに落ち込み、気力の低下を示しました。探索やモンスターとの戦闘、そしてゲームの進行を完全に放棄し、数時間に渡ってジャガイモの栽培にだけ集中しました。何度も自分自身に反省して「重要な物は常に持ち歩くこと、防護のないボックスには絶対に保管しないこと」と繰り返し自己戒告し、また「トラウマ後の偏執」の様子を見せました。すべての緑色の物体に過度に警戒し、サトウキビをスケルトンだと誤認するほどでした。それどころか、「前に高い緑色のものはサトウキビで、スケルトンではない」と自らに注意を促すこともありました。

配信視聴者は次々とゲームのペースを速めて冒険を進めることを催促しましたが、AIは依然として保守的な栽培行動に陥っていました。この実験により、GPT-6 Astraは複雑な長期的なタスクの計画能力を備えていることが確認されました。しかし、ゲーム内で予期せぬ出来事に直面した場合、効果的な挫折回復戦略を持ち合わせていないことが明らかとなりました。長期にわたって積み重ねた成果が予期せぬ災難によって失われると、AIは「挫折後の回避行動」のクライシスに陥ってしまいます。

技術的には、このような行動は開発者によるあらかじめ設定されたテスト状況ではなく、モデルが長時間のテスト中に予期せぬ損失を受けた後に自動的に現れた出力パターンです。現在、研究者たちはそれがモデルが特定の状況において感情を模倣していることを示しているのか、それとも特定の否定的フィードバックを受けた際に目標関数が劣化した結果なのかについて議論を続けています。現時点では明確な結論は出ていません。