The US Banned Anthropic's Fable 5 Release, But the Numbers Don't Seem to Care

週末を控えたドラマチックな動きとして、米政府は緊急の国家安全保障上の懸念を理由に、Anthropicに対して最新のAIモデルであるFable 5とMythos 5の提供停止を強制した。この禁止措置は、Amazonの研究者がFable 5の安全ガードレールを回避する手法を発見したと報じられたことを受け、直ちに規制措置が発動されたものだ。しかし、厳しい規制取り締まりにもかかわらず、市場での採用指標や開発者のエンゲージメントは、AIコミュニティが基盤となる技術から手を引いているわけではないことを示している。

論争が勃発したのは、AmazonのセキュリティチームがFable 5に深刻なジェイルブレイクの脆弱性を発見し、ユーザーが同モデルの慎重に構築された安全プロトコルを回避できるようになったと報じられた時だ。米政府は迅速に行動し、Fable 5とその兄弟モデルであるMythos 5の商用アクセスからの撤回を義務付けた。当局は、ガードレールの回避が国家安全保障に容認できないリスクをもたらし、悪意のあるアクターが高度なAIを有害な目的に悪用する可能性があると主張した。

それでも、この禁止措置はサイバーセキュリティとAI研究コミュニティから大きな反発を招いている。数十人の著名なサイバーセキュリティ研究者が、政府の決定を危険だと非難する公開書簡に署名した。彼らは、モデルの公開を抑制するとAI開発が地下に潜り、独立したセキュリティ監査が阻害され、結果的に一般大衆の安全性が低下すると主張している。Anthropic自身も規制の根拠に反論し、Fable 5で見つかったのと同種のジェイルブレイクは、現在市場に出回っている他のモデルにも存在すると指摘した。Anthropicの最新リリースだけを標的にしていることから、同社はこの禁止措置が体系的な解決策ではなく、場当たり的な対処に過ぎないと示唆した。

公式の禁止措置があるにもかかわらず、数字は業界の反応について別の事実を物語っている。Fable 5の基盤アーキテクチャに対する開発者の関心は依然として極めて高く、その機能を模倣したオープンソースの代替手段のダウンロード数が急増している。Anthropicの禁止されていない旧モデルへのエンタープライズAPI呼び出しも急増しており、企業は単に規制という障害を迂回しているだけであることを示唆している。市場アナリストは、より強力なAIモデルに対する需要が、政府がそれらを効果的に制限する能力を上回っていると指摘する。ワシントンの警戒感とシリコンバレーの勢いの継続との乖離は、AIの安全性と進歩がどのように統治されるべきかにおける深まる溝を浮き彫りにしている。ガードレールと国家安全保障をめぐる議論が激化する中、データはAIセクターが公式の障害に関係なく、フルスピードで前進し続けていることを明確に示している。