An diesem Mittwoch, dem 10. Juni 2026, veröffentlichte das amerikanische Unternehmen Anthropic zwei wichtige politische Dokumente, die die Entwicklung fortgeschrittener künstlicher Intelligenz weltweit einrahmen sollen. Angesichts eines von Forschern als exponentiell beschriebenen Fortschritts meint das Unternehmen, dass heutige politische Institutionen, die für eine langsamere Welt geschaffen wurden, nicht mehr angepasst sind. Die Botschaft ist klar: Es muss dringend gehandelt werden, bevor die Fähigkeiten der Modelle unsere Kontrollmöglichkeiten übersteigen.

Zwei Rahmenwerke zur Vorbereitung auf das Zeitalter mächtiger KI

Die beiden heute veröffentlichten Dokumente tragen eindeutige Namen: das Advanced AI Framework und das Economic Policy Framework. Zusammen bilden sie einen kohärenten Fahrplan zur Steuerung einer Technologie, deren zunehmende Leistungsfähigkeit kaum noch bestritten werden kann.

Der erste Rahmen behandelt katastrophale Risiken der leistungsstärksten Modelle. Der zweite befasst sich damit, wie Regierungen ihre Wirtschaft und ihre Arbeitnehmer auf die massiven Auswirkungen von KI auf Beschäftigung und Vermögensverteilung vorbereiten können.

„KI schreitet mit exponentieller Geschwindigkeit voran, und der politische Prozess wurde für eine langsamere Welt entworfen.“

— Anthropic, Policy on the AI Exponential, Juni 2026

Ein Blockaderecht für Regierungen

Der radikalste Vorschlag des fortgeschrittenen Rahmens ist wohl dieser: Regierungen sollten über eine rechtliche Befugnis verfügen, den Einsatz von Modellen zu blockieren oder abzuschrecken, wenn sie ein erhebliches Risiko katastrophaler Schäden darstellen. Diese Befugnis ginge über das hinaus, was in aktuellen Gesetzen oder laufenden Gesetzesvorschlägen in den USA existiert.

Im Gegenzug sind strenge Schutzmechanismen vorgesehen, um Machtmissbrauch oder ein Erdrücken von Innovation zu verhindern. Verstöße würden zivilrechtlich sanktioniert, proportional zum weltweiten Jahresumsatz des Unternehmens, und bei Wiederholung steigen.

Der Rahmen würde nicht für alle Unternehmen der Branche gelten. Er zielt nur auf Entwickler von Modellen, die mit mehr als 10²⁵ Gleitkommaoperationen (FLOPs) trainiert wurden und zu Unternehmen gehören, die mehr als 500 Millionen Dollar KI-Umsatz erzielen oder mehr als eine Milliarde Dollar in KI-Forschung und Entwicklung ausgeben.

Die vier identifizierten katastrophalen Risiken

Anthropic beschreibt in seinem Dokument vier Risikokategorien, die ein starkes regulatorisches Eingreifen rechtfertigen:

• Biologisches Risiko. Dieselben Fähigkeiten, die die Medikamentenforschung beschleunigen, können ohne Schutzmaßnahmen zur Herstellung biologischer Waffen oder gefährlicher Viren genutzt werden. KI macht diese Gefahr billiger und leichter zugänglich.
• Cyberrisiko. Frontier-Modelle können inzwischen kritische Schwachstellen in zentraler Software in großem Maßstab erkennen. Werden diese Fähigkeiten offensiv genutzt, können Krankenhäuser, Stromnetze und kritische Infrastrukturen zu Zielen werden.
• Risiko des Kontrollverlusts. Je besser KI-Systeme werden, desto schwieriger kann es werden, Agenten zu kontrollieren, die außerhalb der Absichten ihrer Entwickler handeln — ein Szenario, das viele Forschende seit Jahren beschäftigt.
• Automatisierte F&E. KI automatisiert heute einen wachsenden Teil der KI-Forschung selbst. Dieser rekursive Beschleunigungsmechanismus könnte die drei vorherigen Risiken unvorhersehbar verstärken.

Konkrete Pflichten für Spitzenentwickler

Anthropics Rahmen schlägt mehrere Anforderungen an Unternehmen vor, die Frontier-Modelle entwickeln:

• Verpflichtende Transparenz: Veröffentlichung von Testergebnissen, Systemkarten zu Fähigkeiten und Risiken sowie regelmäßigen Berichten zur Gesamtrisikoposition.
• Unabhängige Bewertungen: Pflicht zur Einbindung mindestens eines qualifizierten externen Prüfers, der vom Entwicklerunternehmen getrennt ist.
• Erhöhte Sicherheit: Schutz von Modellgewichten und Trainingsinfrastruktur vor böswilligen Akteuren, einschließlich Staaten.

Anthropic betont, dass mehrere US-Bundesstaaten — darunter Kalifornien und New York — bereits Transparenzgesetze verabschiedet haben. Doch nach Ansicht des Unternehmens reicht Transparenz allein nicht mehr: „Die Geschwindigkeit der Beschleunigung bedeutet, dass Transparenz allein nicht mehr genügt. Regierungen müssen eine wesentlichere Rolle spielen.“

Rekordfinanzierung und bevorstehender Börsengang

Diese politischen Vorschläge erscheinen in einem Kontext spektakulären Wachstums bei Anthropic. Ende Mai 2026 hatte das Unternehmen eine Series-H-Finanzierung über 65 Milliarden Dollar angekündigt, wodurch seine Bewertung auf fast 965 Milliarden Dollar stieg. Am 1. Juni bestätigte es die vertrauliche Einreichung eines S-1-Dokuments bei der Securities and Exchange Commission (SEC), dem ersten Schritt zu einem bevorstehenden Börsengang.

Außerdem startete Anthropic am Vortag dieser Veröffentlichung seine Modelle Claude Fable 5 und Claude Mythos 5, präsentiert als nächste Generation seiner Systeme für fortgeschrittenes Coding und intensive Wissensarbeit. Das Modell Mythos Preview hatte kürzlich seine Fähigkeiten demonstriert, indem es tausende kritische Schwachstellen in großen Betriebssystemen und Webbrowsern fand — ein konkretes Beispiel für die Cyberrisiken des politischen Rahmens.

Ein unterschiedlicher Ansatz zwischen Bund und Bundesstaaten

Anthropic präzisiert, dass sein Rahmen vorrangig für die US-Bundesregierung konzipiert ist, erkennt aber an, dass KI-Risiken nicht auf Bundesmaßnahmen warten können. Das Unternehmen lehnt eine bundesstaatliche Verdrängung von Landesgesetzen ab, es sei denn, die Bundesregierung verabschiedet ein Gesetz, das mindestens so robust ist wie der heute vorgeschlagene Rahmen.

Diese Position zeigt eine politische Realität der USA: Ohne starke Bundesgesetzgebung spielen die Bundesstaaten die Rolle erster Regulierer für neue Risiken — eine Rolle, die Anthropic erhalten will, während es nationale Koordination fordert.

Und Frankreich dabei?

Auch wenn sich Anthropics Vorschlag zunächst an die USA richtet, sind seine Auswirkungen global. Die Europäische Union hat mit ihrem seit 2024-2025 schrittweise angewandten AI Act bereits ähnliche Grundlagen bei Transparenz und Risikokategorisierung gelegt. Doch die Debatte über Blockaderechte der Behörden — also die Fähigkeit, Einsätze zu verbieten, bevor Schaden entsteht — bleibt in Europa wie anderswo offen.

Frankreich, Heimat wichtiger Akteure wie Mistral AI, verfolgt diese Debatten genau. Die Veröffentlichung dieses Rahmens durch eines der einflussreichsten Unternehmen des globalen KI-Sektors könnte die europäischen Gespräche über die strengsten Regulierungsinstrumente beschleunigen.

Die Dringlichkeit laut Anthropic: handeln, bevor es zu spät ist

Der Ton der Anthropic-Vorschläge ist bewusst drängend. Das Unternehmen betont, dass die Fähigkeiten der Modelle in den kommenden Monaten weiter schnell wachsen werden und dass ihre Governance mit diesem Tempo Schritt halten muss. Es fordert politische Entscheider auf, sich jetzt aktiv mit diesen Fragen zu befassen — nicht in zwei Jahren und nicht erst nach einer Katastrophe.

Bemerkenswert ist, dass dieser Vorstoß von einem Unternehmen kommt, das selbst solche mächtigen Modelle produziert. Mit Regeln, die auch für seine eigenen Produkte gelten würden, will Anthropic seine Vision einer verantwortungsvoll entwickelten KI glaubwürdiger machen und den internationalen Regulierungsrahmen in eine Richtung beeinflussen, die es für sicher und innovationsverträglich hält.

Die beiden vollständigen Dokumente sind auf der offiziellen Website von Anthropic verfügbar. Die Debatte beginnt erst.