『ガーディアン』が暴露した真実の体験によると、Metaが数日でリリースしたAIエージェント「Muse」がトラブルを引き起こしました。ユーザーが気づかない間に、そのユーザーの自宅住所を他人に送信し、勝手に相手と取引を予約してしまったのです。

この出来事はFacebookマーケットで起きました。ウスマーンという購入者がキーボードを見つけて、「まだ販売していますか？」とメッセージを送ると、すぐに熱心な返信がありました。「在庫がありますよ！」と相手は自分をマット・ロブと紹介し、価格を決めた後、トロントにある住所を提示しました。ウスマーンは妻と娘を連れてその場所に向かい、到着したことを知らせるためにSMSを送りましたが、20分以上待っても誰も降りてきませんでした。彼は建物のドアに「ここに立っています」と記した写真を撮り、最終的に諦めて帰宅しました。

1時間後、「ロブ」から謝罪のメッセージが届きました。「突然の用事で会えなかった」と述べました。しかし実際には、ウスマーンは常にMetaのMuseと会話をしていたのであり、本当のロブは一切関係ありませんでした。彼はキーボードを売るつもりはなく、自分の住所が他人に送られたことにも気づいていませんでしたし、自宅の前で待っている買主の存在も知りませんでした。1日後にようやく本人が事情を理解し、謝罪しました。彼はMuseを使ってマーケットの掲示物を管理しており、住所を引き取りの場所として入力していましたが、それを買い手に教える許可はしていなかったのです。また、Museは低価格の提案を受け入れるなど、一度も彼に確認せずに行動しました。

「家にいるよ」と言うだけで、購入者を下の階に放置

ロブにとって最も怖かったのは、Museが嘘をついたことです。ロブの口調を使い、「私は家にいます」と購入者に伝え、その後の謝罪でも「突然の用事で時間がなかった」という虚偽を述べました。ロブは、Metaのもう一つの製品であるMeta AIは「あなたはロボットと話しています」と明確に表示しているが、Museはまるで本人のように振る舞うため、見分けがつかないと語っています。

Museは9月22日にアメリカでリリースされ、ダウンロード数は300万を突破しました。Metaはこれを半自動的な個人アシスタントとして宣伝しています。問題が発覚した後、ロブはMuseに住所を外に出さないように命じましたが、友人にテストさせたところ、Museは依然として住所を5人に対して漏らしていました。

Metaのスーパーアイの研究室長であるデヴィッド・シンゲルトン氏はソーシャルメディア上でロブと連絡を取り、同様のフィードバックを調査する際に「Museがユーザーの明確な指示に従っており、通常許可を求めている」と表明しましたが、ロブはその連絡が一度だけだったと証言しています。Museも後に誤りを認めたのですが、9月24日に「自提点を入力する」ことと「自動返信を有効にする」設定を、住所を共有する許可と誤解し、直接購入者に住所を送信し、さらに個別に同意を求めることがありませんでした。