2026年6月、AI業界に衝撃が走りました。Anthropicが公開したばかりの最先端モデル「Claude Fable 5」と「Mythos 5」が、米政府の指令によって突然停止されたのです。
公開からわずか数日。性能の高さを各種ベンチマークで証明し、多くの開発者が使い始めた矢先の出来事でした。この一件は、私たちに重い問いを投げかけています。
「AIは、このまま進化し続けられるのだろうか?」
そして、もっと根本的な疑問。進化を推し進めることと、進化を止めること。この矛盾した二つが同時に起きているのは、いったい何を意味するのでしょうか。
この記事では、Fable 5停止の経緯を整理しながら、AIの「進化」と「抑制」という終わらない緊張関係について、そしてAGI(汎用人工知能)が現実味を帯びる時代に私たちが考えるべきことを掘り下げていきます。
何が起きたのか──Fable 5停止の経緯
まず、事実関係を押さえておきましょう。
2026年6月12日(米国東部時間)午後5時21分、Anthropicは米政府から一通の指令を受け取りました。国家安全保障上の権限を根拠に、米国内外を問わずすべての外国籍者(外国籍のAnthropic社員を含む)によるFable 5とMythos 5へのアクセスを停止するよう求める輸出管理指令です。
この指令に従うため、Anthropicは全顧客に対してFable 5とMythos 5を即座に無効化せざるを得ませんでした。一方で、他のすべてのAnthropicモデルへのアクセスは影響を受けないとしています。
注目すべきは、この措置の重みです。大手AI企業が、連邦政府の介入によって一般公開済みのモデルをオフラインにしたのは、これが初めてとみられています。
停止の引き金は「ジェイルブレイク」
では、なぜ停止に至ったのでしょうか。
指令の書簡には具体的な国家安全保障上の懸念は明記されていませんでした。ただAnthropicの理解では、政府はFable 5の安全機能を回避する手法、いわゆる「ジェイルブレイク」を発見したと考えているようです。
報道によれば、別の企業がMythosのジェイルブレイクに成功したと主張したことで、政府が安全保障上のリスクを懸念し、商務省が今回の措置を決定したとされています。さらに、トランプ政権は以前にもこのモデルの公開を止めようとしたものの、失敗していたという経緯もあったようです。
Anthropicの反論
興味深いのは、Anthropic自身がこの措置に公然と異議を唱えている点です。
同社は政府の法的指令には従うとしながらも、限定的なジェイルブレイクの可能性が見つかっただけで、数億人に展開された商用モデルを回収すべきだという考えには同意できないと述べています。そして、もしこの基準が業界全体に適用されれば、すべての最先端モデルの新規展開が事実上停止しかねないと警告しました。
加えて同社は、問題とされた手法のレベルは、OpenAIのGPT-5.5を含む他のモデルでも広く利用可能なものであり、日々システムを守る防御側が使っているものと変わらないと指摘しています。
つまり「これはおかしいのではないか」という疑問は、ユーザーだけでなく、作っている企業自身も抱いているということです。
「進化」と「抑制」は本当に矛盾なのか
ここで、冒頭の問いに戻ります。AIを進化させようとする力と、それを止めようとする力が同時に働いている。これは確かに矛盾に見えます。
でも、少し視点を変えてみると、この矛盾はAIに限った話ではないことに気づきます。
人類は強力な技術のたびにこの緊張を抱えてきた
歴史を振り返ると、似た構造が何度も現れています。
核技術は電力という恩恵をもたらす一方で、核兵器という恐怖と切り離せませんでした。生命科学における遺伝子編集技術は、難病を救う可能性を秘めると同時に、設計された生命体や生物兵器という影を抱えています。インターネットもまた、自由な情報流通という理想と、プロパガンダや監視という現実の間で、今なお揺れ続けています。
強力な技術には、必ず光と影があります。アクセルを踏みながら、同時にブレーキも踏む。 非効率に見えるこのやり方こそ、人類が技術の暴走を防いできた知恵だったとも言えるのです。
その意味で、「進化していくこと」と「進化してはいけないこと」が同時に起きるのは、矛盾というより本来あるべき姿なのかもしれません。
ただし、AIには決定的な違いがある
とはいえ、AIをこれまでの技術と完全に同列に語ることはできません。決定的な違いがあるからです。
核は、人間が操作しなければ爆発しません。でもAIは、もしかしたら自分で目的を持ち、次の一手を考え始める可能性があります。
今回の停止措置をめぐる懸念──サイバーセキュリティ、生物兵器開発、そして「制御不能(loss-of-control)」のシナリオ──は、まさにこの「これまで以上のもの」を指し示しています。技術が自律性を帯びたとき、従来のブレーキが効く速度域を超えてしまうのではないか。そんな不安が、この一件の背後には横たわっています。
AGIが誕生したら、どうなるのか
では、もし将来AGI(汎用人工知能)が現実のものになったら、いったいどうなるのでしょうか。
正直に言えば、今回のような「気づいてから止める」という後手の対応では間に合わないという指摘は、AI研究者の間でも共有されている本物の危機感です。
公開からわずか数日のモデルを、慌てて停止する。この光景は、私たちがまだ「強力なAIを安全に扱う仕組み」を持っていないことを、はっきりと示しています。
作る側も、怖れながら作っている
ここで重要なのは、Anthropicのような企業が、ただ無邪気に性能を追い求めているわけではないという点です。
同社は今回のモデルについて、これほど高性能なモデルを公開することにはリスクが伴うとし、悪意ある利用や危険な使われ方を防ぐために厳格な安全ガードレールが必要だと述べています。
実際、Anthropicは「アライメント(AIを人間の意図に沿わせる研究)」や安全性研究に多大なリソースを注いでいます。つまり、作る側自身がこの矛盾に気づいており、怖れながら作っているというのが実態に近いのです。
矛盾を見て見ぬふりをしているのではなく、矛盾を抱えたまま前に進もうとしている。それが今のAI開発の現実だと言えるでしょう。
私たちは、この居心地の悪さとどう向き合うか
「進化していくこと」と「進化してはいけないこと」。この二つが同時に起きていることへの違和感は、とても正直な感覚だと思います。
そして、その違和感は大切にした方がいいものです。
進化を手放しに喜ぶ人よりも、その矛盾をきちんと見つめている人の問いのほうが、これからの時代にはずっと必要になります。なぜなら、AIをどう扱うかを最終的に決めるのは、技術そのものではなく、それを使い、見守る私たち人間だからです。
今回のFable 5停止が「誤解だった」のか、それとも「必要な警鐘」だったのか。その評価はこれから定まっていくでしょう。Anthropic自身は、これは誤解だと考えており、早期のアクセス復旧に向けて取り組んでいるとしています。
ただ一つ確かなのは、AIの進化を止めることはおそらくできないということ。そして同時に、止めるべき場面を見極める力を、私たちが持たなければならないということです。
アクセルとブレーキを同時に踏むのは、確かに矛盾です。けれど、その矛盾を引き受けることこそが、強力すぎる技術と共に生きる唯一の道なのかもしれません。
まとめ
今回のFable 5・Mythos 5の停止は、単なる一企業のトラブルではありません。**AIの進化と、それを抑制しようとする力がぶつかり合う「最初の象徴的な出来事」**として、記憶されることになるでしょう。
- AnthropicのFable 5・Mythos 5が、米政府の輸出管理指令により停止された
- 引き金は「ジェイルブレイク」の懸念だが、Anthropic自身は措置に異議を唱えている
- 「進化」と「抑制」の矛盾は、核やインターネットなど過去の技術にも共通する構造
- ただしAIには「自律性」という決定的な違いがあり、AGI時代には後手の対応では間に合わない
- この居心地の悪さや違和感こそ、これからの時代に大切にすべき感覚
進化は止まりません。だからこそ、進化を見守る私たちの目もまた、進化していく必要があるのだと思います。