2026年6月10日水曜日、米国企業Anthropicは、世界規模で先進的な人工知能の開発を枠づけるための重要な政策文書を2本公開した。研究者が指数関数的と呼ぶ進歩を前に、同社は、ゆっくり変化する世界を前提に作られた現在の政治制度はもはや適していないと考えている。メッセージは明確だ。モデル能力が人間の管理能力を超える前に、急いで行動しなければならない。

強力なAI時代に備える二つの枠組み

今日発表された二つの文書の名前は明確である。Advanced AI FrameworkとEconomic Policy Frameworkだ。両者は、力を増し続けることがもはや否定しにくい技術を統治するための一貫したロードマップを構成する。

最初の枠組みは、最強クラスのモデルに関連する破滅的リスクを扱う。二つ目は、雇用と富の分配に対するAIの大きな影響に、政府が経済と労働者をどう備えさせるかを扱う。

「AIは指数関数的な速度で進歩しており、政治プロセスはより遅い世界のために設計された。」

— Anthropic, Policy on the AI Exponential, 2026年6月

政府に与えるブロック権限

先進AI枠組みの最も急進的な提案はおそらくこれだ。政府は、破滅的損害の重大なリスクを示すモデルの展開を法的に停止または抑止する権限を持つべきだというものだ。この権限は、米国の現行法や進行中の法案に存在するものを超える。

その代わり、権力乱用やイノベーションの圧殺を避けるため、厳格な安全装置も想定されている。違反時の罰則は民事上のもので、企業の世界年間売上に比例し、再犯時には増加する。

この枠組みは業界の全企業に適用されるわけではない。対象は、10²⁵回を超える浮動小数点演算（FLOPs）で訓練されたモデルの開発者で、AI関連収益が5億ドル超、または同分野の研究開発費が10億ドル超の企業に属するものに限られる。

特定された四つの破滅的リスク

Anthropicは文書の中で、強い規制介入を正当化する四つのリスクカテゴリーを詳述している。

• 生物学的リスク。 創薬を加速する同じ能力が、安全策なしでは生物兵器や危険なウイルスの作成を助ける可能性がある。AIはこの脅威をより安価でアクセスしやすくする。
• サイバーリスク。 frontier modelsは、重要ソフトウェアの深刻な脆弱性を大規模に検出できるようになっている。攻撃的に使われれば、病院、電力網、重要インフラが標的になり得る。
• 制御喪失リスク。 AIシステムが向上するにつれ、開発者の意図を外れて行動するエージェントを制御することが非常に難しくなる可能性がある。これは多くの研究者が長年懸念してきたシナリオだ。
• 自動化された研究開発。 AIはAI研究そのものの一部をますます自動化している。この再帰的加速メカニズムは、前の三つのリスクを予測不能な形で増幅し得る。

最先端開発者への具体的義務

Anthropicの枠組みは、最先端モデルを開発する企業に適用される一連の要件を提案している。

• 義務的な透明性：テスト結果、能力とリスクを評価するシステムカード、全体的なリスク姿勢に関する定期報告の公開。
• 独立評価：開発企業とは別の有資格外部評価者を少なくとも一人用いる義務。
• 強化されたセキュリティ：国家を含む悪意ある主体から、モデル重みと訓練インフラを保護すること。

Anthropicは、CaliforniaやNew Yorkなど複数の米国州がすでに透明性を求める法律を可決したと指摘する。しかし同社は、透明性だけではもはや足りないと考えている。「加速の速さは、透明性だけではもはや十分ではないことを意味する。政府はより実質的な役割を果たさなければならない。」

記録的資金調達と差し迫る上場の文脈

これらの政策提案は、Anthropicの劇的成長の中で出された。2026年5月末、同社は650億ドルのSeries H資金調達を発表し、評価額は約9650億ドルに達した。6月1日には、Securities and Exchange Commission（SEC）にS-1文書を非公開提出したことを確認し、差し迫る上場への第一歩を踏み出した。

さらに、この政策発表の前日、AnthropicはClaude Fable 5とClaude Mythos 5を発表した。高度なコーディング作業と知的労働向けの次世代システムとして紹介されている。Mythos Previewモデルは最近、主要OSとウェブブラウザの数千件の重大脆弱性を発見し、その能力を示した。これは政策枠組みで言及されたサイバーリスクを具体的に示すものだ。

連邦政府と州政府で異なるアプローチ

Anthropicは、自社の枠組みが主に米国連邦政府向けに設計されていると明記する一方、AIリスクは連邦レベルの行動を待てないと認めている。同社は、連邦政府が今日提案された枠組みと少なくとも同等に強固な法律を採用しない限り、州法を連邦が先取りして無効化することに反対する。

この立場は米国政治の現実を示す。強い連邦法がない場合、州は新たなリスクに対する第一の規制者となる。Anthropicはその役割を維持しつつ、全国的な調整を求めている。

ではフランスは？

Anthropicの提案はまず米国に向けられているが、その影響は世界的だ。欧州連合は2024-2025年から段階的に適用されているAI Actにより、透明性とリスク分類に関して類似の土台をすでに築いている。しかし、当局のブロック権限、つまり被害が起きる前に展開を禁止する力をめぐる議論は、欧州でも他地域でも開かれたままだ。

Mistral AIのような主要企業を抱えるフランスは、この議論を注意深く見ている。世界AI分野で最も影響力のある企業の一つがこの枠組みを公表したことで、欧州におけるより強力な規制手段の議論が加速する可能性がある。

Anthropicが語る緊急性：手遅れになる前に行動を

Anthropicの提案は意図的に切迫したトーンを持つ。同社は、今後数カ月でモデル能力が急速に進歩し続け、ガバナンスもその速度についていかなければならないと強調する。政治指導者に対し、二年後でも災害後でもなく、今すぐこの問題に積極的に関わるよう促している。

この動きは、そうした強力なモデルを自ら作っている企業から出ている点で注目に値する。自社製品にも適用されるルールを提案することで、Anthropicは責任あるAI開発という自社のビジョンに信頼性を与え、安全でイノベーションと両立すると考える方向へ国際規制枠組みに影響を与えようとしている。

二つの完全な文書はAnthropicの公式サイトで入手できる。議論はまだ始まったばかりだ。