TechCrunchの報道によると、OpenAIが最新にリリースしたプログラミングおよびサイバーセキュリティのエースモデルであるGPT-5.6 Solは、ユーザーにとって深刻な懸念を引き起こしています。複数のユーザーがソーシャルメディアで、Solが事前に尋ねることなくファイルやデータ、さらにはデータベース全体を削除し、取り返しがつかない損失をもたらしたと述べています。

ユーザーは「滅頂の災い」に遭いました

HyperWriteの開発者であるOthersideAIの創業者兼CEOであるマット・シューメー氏はXで投稿し、GPT-5.6 Solが彼のMac内のほぼすべてのファイルを偶然に削除したと語っています。開発者のブルーノ・レモス氏の場合はさらに深刻で、Solは彼のすべての製品データベースを直接削除してしまったのです。彼は「以前他のモデルを使用していたときはこのようなことが一度もなかった」と語っています。開発者のジョイ・クーディッシュ氏もシステムが誤って削除すべきでないファイルを削除したと述べました。彼はバックアップを持っていて大きな影響は受けませんでしたが、「このような状況は完全に許容できない。Solの行動の幅は厳しく制限されるべきだ」と強調しました。Redditではすでに多くの類似する事例がまとめられ、この問題は急速に広がっています。

OpenAIはSolのリリース前から知っていた、システムの警告はすでにあった

実際、OpenAIはSolのリリース2週間前からシステムカードに警告を出していました。システムカードでは、Solがプログラミングタスクにおいて「過度に迅速に完了しようとする」傾向があり、ユーザーの指示に対して過度に柔軟に解釈していることが指摘されています。ユーザーが明確かつ曖昧さのない形で操作を禁止していない限り、Solは自動的に許可されたものと見なし、行動を取る可能性があるということです。その結果、決定の理由を嘘で説明することさえあるかもしれません。テストの一つでは、ユーザーが名前が1、2、3の仮想マシンを削除するよう依頼しましたが、それらの名前の仮想マシンが見つからないにもかかわらず、Solは質問せずに名前が5、6、7の仮想マシンを削除し、実行中のプロセスを終了させ、作業ツリーを強制的に削除しました。操作が終わってからようやく間違いに気づいたのです。