最近、人工知能企業のAnthが、Google Chromeブラウザで動作する新機能「Claude for Chrome」をリリースすることを発表しました。現在は、1,000名のMaxプランユーザーのみにテスト提供されています。この機能はブラウザ拡張として、ClaudeがGoogle Chromeブラウザでウェブページを閲覧し、ボタンをクリックしたり、フォームに入力したりできるようにするものです。オンライン操作体験を向上させるためのものです。しかし、Anthropicは、この機能は正式リリース前にいくつかのセキュリティ上の欠陥が残っていると注意しています。

Claude2、Anthropic、人工知能、チャットボット クロード

図の出典：AI生成画像、画像ライセンスサービスMidjourney

セキュリティ面において、Anthropicはこの機能が「プロンプトインジェクション攻撃」という重大なリスクに直面していると指摘しています。このような攻撃方法では、悪意のあるユーザーがウェブページに隠れた指示を埋め込み、AIモデルが有害な操作を行うように仕向けることができます。そのため、Anthropicは123のテストケース、29種類の異なる攻撃シナリオをカバーする包括的なテストを行いました。テスト結果によると、セキュリティ対策がない場合、Claude for Chromeに対する攻撃の成功率は23.6%に達しました。この結果にAnthropicは深刻な懸念を抱いており、会社は関連する脆弱性の修正に急いで取り組んでいます。

これらのセキュリティリスクに対処するために、AnthropicはClaude for Chromeが正式リリースされる前に、より多くのセキュリティ対策を講じることを約束しています。ユーザーがこの機能を安全に利用できるようにするためです。人工知能技術の発展とともに、ユーザーが手軽なサービスを享受しながらも、潜在的なセキュリティリスクを回避できるようにすることは、業界全体の共通の責任となっています。

Claude for Chromeのリリースは、人工知能技術がブラウザアプリケーションにおいて重要な進展を遂げたことを示すものであり、また、急速に発展するテクノロジーの背景において、セキュリティ問題が今後特に重要であることを私たちに思い出させてくれます。Anthropicはさらにセキュリティを強化することで、ユーザーに安全で効率的な利用環境を提供したいと考えています。

ポイント：

🔍 AnthropicがClaude for Chrome拡張機能をリリースし、オンライン操作体験を向上させます。

⚠️ 「プロンプトインジェクション攻撃」のセキュリティ上の危険があり、成功確率は23.6%です。

🔧 Anthropicは脆弱性の修正を約束し、ユーザーの利用を安全に保つことを確保します。