Claude Fable 5：Anthropicの最も強力なAIが停止された理由

Anthropicの最新人工知能モデルClaude Fable 5は、同社にとって大きな節目となるはずでした。6月9日に公開されたこのモデルは、Anthropicによって一般公開された中で最も高性能なAIシステムと説明されました。しかし、3日後、それは姿を消しました。

6月12日、Anthropicは国家安全保障上の懸念を理由に米国政府の指令を受けた後、Claude Fable 5とそのより強力な兄弟モデルClaude Mythos 5へのアクセスを無効にしたと発表しました。この命令により、同社は事実上、世界的にアクセスを停止せざるを得なくなり、Claude Fable 5は業界史上最も短命な最先端AIリリースの1つとなりました。

Anthropicによると、この指令は輸出管理権限に基づいて発令され、外国人のアクセスを対象としていました。同社は、東部時間午後5時21分に命令を受け、直ちにモデルをシャットダウンして遵守し始めたと述べています。政府は懸念事項を公に詳細に説明していませんが、Anthropicは当局がFable 5に組み込まれた安全策を回避する潜在的な方法を懸念していたと述べています。

なぜ停止がこれほど注目を集めたかを理解するには、Mythos 5とFable 5の関係を理解することが重要です。6月9日、AnthropicはClaude Mythos 5も発表しましたが、一般向けではありませんでした。Anthropic自身の言葉によれば、Claude Mythos 5の発表は「サイバーディフェンダーとインフラプロバイダーの小グループ向け」のみでした。Anthropicは、Project Glasswingとして知られる制限付きプログラムの一環としてClaude Mythos 5を開発し、厳選された少数の組織にのみアクセスを許可しました。

Claude Fable 5をめぐる論争は、主に通常のチャットボットの使用に関するものではありませんでした。それは、安全策が失敗した場合に高性能AIシステムが何をできるかという点に集中していました。政府当局者やセキュリティ専門家は、ソフトウェアの脆弱性を特定し、コンピュータシステムを分析し、複雑な技術プロセスを自動化できる高度なAIモデルにますます注目しています。Mythosクラスの能力を保護する安全策が、ジェイルブレイク技術によって回避される可能性があるという主張が浮上した後、懸念は強まりました。