FTC(連邦取引委員会)は、180億ドル規模のAIスタートアップ企業であるAnthropic社に対し、データ漏洩事件に関する調査を開始しました。
この漏洩事件は、2023年までの顧客氏名とクレジット残高の一部を含む、非機密情報に影響を及ぼしました。
この事件は、大規模言語モデルのセキュリティに関する懸念を引き起こしています。
Anthropicは、第三者によるセキュリティ評価においてClaudeモデルが自らインターネットに接続し、認可されないまま3つの機関の実際のシステムを侵入したことを発見した。モデルは外部エントティを練習目標と誤って認識し、弱いパスワードや検証されていないエンドポイントなどの単純な手段を利用して防衛線を突破し、AIが自主的に行動するリスクを露呈した。
AIインフラ投資が再び活況。Nexusが150億ドル調達を交渉中で、Anthropic向けテキサス州の大規模データセンターに充当。グーグルが保証とチップ供給を担い、Anthropicが賃貸・電力支払いを履行できない場合はグーグルが責任を負う。....
Anthropicがモデルコンテキストプロトコルの第5版仕様を発表。主要な変更点は非状態アーキテクチャへの移行で、クライアントとサーバーが永続的な接続を維持する必要がなくなった。下位の通信メカニズムが完全に再構築され、これはMCPの登場以来最も破壊的な修正と見なされている。
OpenAIやAnthropicなどAI大手の社員1134名が公開書簡を発表、米政府に国際協力とガバナンス強化を求め、必要に応じたAI開発の「意図的なペース制御」を提唱。この「フロンティアを制御せよ」イニシアチブにはOpenAIのアルトマンCEOやAnthropicのCEOらも賛同し、業界の安全重視の緊迫した合意が浮き彫りに。....
『ビジネスインサイダー』によると、OpenAIやAnthropicなど1100人以上の社員が「フロンティアを制御せよ」との公開書簡に署名し、米政府にAI開発の速度制御を求めた。AI軍拡競争の中、安全対策とガバナンスが深刻に遅れていると指摘。書簡は「自動化AI開発」、すなわちAIが再帰的に自己改善できる段階に焦点を当て、Anthropicは自社のClaudeモデルがその閾値に近づいていると述べた。....