Denne onsdagen 10. juni 2026 publiserte det amerikanske selskapet Anthropic to viktige politiske dokumenter som skal ramme inn utviklingen av avansert kunstig intelligens på verdensbasis. Stilt overfor en utvikling forskere beskriver som eksponentiell, mener selskapet at dagens politiske institusjoner, utformet for en langsommere verden, ikke lenger er tilpasset. Budskapet er klart: det haster å handle før modellenes evner overstiger vår evne til å kontrollere dem.

To rammeverk for å forberede tiden med kraftig KI

De to dokumentene som publiseres i dag, har tydelige navn: Advanced AI Framework og Economic Policy Framework. Sammen danner de et sammenhengende veikart for å styre en teknologi som nå åpenbart øker i kraft.

Det første rammeverket tar for seg katastrofale risikoer knyttet til de kraftigste modellene. Det andre handler om hvordan myndigheter kan forberede økonomien og arbeidstakerne på den massive effekten KI vil ha på sysselsetting og fordeling av rikdom.

« KI utvikler seg med eksponentiell hastighet, og den politiske prosessen ble utformet for en langsommere verden. »

— Anthropic, Policy on the AI Exponential, juni 2026

En blokkeringsrett for myndighetene

Det mest radikale forslaget i rammeverket er trolig dette: myndigheter bør ha juridisk myndighet til å blokkere eller avskrekke utrulling av modeller som gir betydelig risiko for katastrofal skade. Denne myndigheten går lenger enn det som finnes i dagens lover eller lovforslag i USA.

Til gjengjeld foreslås strenge sikkerhetsmekanismer for å hindre maktmisbruk eller kveling av innovasjon. Brudd skal gi sivile sanksjoner, proporsjonale med selskapets årlige globale omsetning, og øke ved gjentakelser.

Rammeverket vil ikke gjelde alle selskaper i sektoren. Det retter seg bare mot utviklere av modeller trent med mer enn 10²⁵ flyttallsoperasjoner (FLOPs), tilhørende selskaper med mer enn 500 millioner dollar i KI-relaterte inntekter eller mer enn 1 milliard dollar i FoU-utgifter på området.

De fire identifiserte katastrofale risikoene

Anthropic beskriver fire risikokategorier som kan rettferdiggjøre sterk regulering:

• Biologisk risiko. De samme evnene som akselererer legemiddeloppdagelser, kan uten vern brukes til å lage biologiske våpen eller farlige virus. KI gjør trusselen billigere og mer tilgjengelig.
• Cyberrisiko. Frontier-modeller kan nå oppdage kritiske sårbarheter i viktig programvare i stor skala. Hvis evnene brukes offensivt, blir sykehus, strømnett og kritisk infrastruktur mulige mål.
• Risiko for tap av kontroll. Etter hvert som KI-systemer forbedres, kan det bli langt vanskeligere å kontrollere agenter som handler utenfor utviklernes intensjoner — et scenario som har bekymret mange forskere i flere år.
• Automatisert FoU. KI automatiserer nå en økende del av KI-forskningen selv. Denne rekursive akselerasjonen kan forsterke de tre foregående risikoene på uforutsigbare måter.

Konkrete plikter for ledende utviklere

Anthropics rammeverk foreslår en rekke krav til selskaper som utvikler frontier-modeller:

• Obligatorisk åpenhet: publisering av testresultater, systemkort som vurderer evner og risiko, og periodiske rapporter om samlet risikoposisjon.
• Uavhengige evalueringer: obligatorisk bruk av minst én kvalifisert ekstern evaluator, adskilt fra utviklerselskapet.
• Styrket sikkerhet: beskyttelse av modellvekter og treningsinfrastruktur mot ondsinnede aktører, også stater.

Anthropic understreker at flere amerikanske delstater — blant annet California og New York — allerede har vedtatt åpenhetslover. Men selskapet mener åpenhet alene ikke lenger er nok: « Hastigheten i akselerasjonen betyr at åpenhet alene ikke lenger er tilstrekkelig. Myndigheter må spille en mer substansiell rolle. »

Rekordfinansiering og nært forestående børsnotering

Forslagene kommer i en periode med spektakulær vekst for Anthropic. I slutten av mai 2026 annonserte selskapet en Series H-finansiering på 65 milliarder dollar, som løftet verdsettelsen til nesten 965 milliarder dollar. 1. juni bekreftet selskapet at det hadde levert et konfidensielt S-1-dokument til Securities and Exchange Commission (SEC), første steg mot en snarlig børsnotering.

Dagen før denne politiske publiseringen lanserte Anthropic dessuten modellene Claude Fable 5 og Claude Mythos 5, presentert som neste generasjon systemer for avansert koding og intensivt kunnskapsarbeid. Mythos Preview hadde nylig vist sine evner ved å finne tusenvis av kritiske sårbarheter i store operativsystemer og nettlesere — et konkret eksempel på cyberrisikoene i rammeverket.

En forskjellig tilnærming mellom føderalt nivå og delstater

Anthropic presiserer at rammeverket primært er utformet for den amerikanske føderale regjeringen, men erkjenner at KI-risikoer ikke kan vente på føderal handling. Selskapet motsetter seg føderal overstyring av delstatslover med mindre føderale myndigheter vedtar en lov som er minst like robust som rammeverket som foreslås i dag.

Dette illustrerer en amerikansk politisk realitet: uten sterk føderal lovgivning fungerer delstatene som førstelinjeregulatorer for nye risikoer — en rolle Anthropic vil bevare samtidig som det ber om nasjonal koordinering.

Og Frankrike i alt dette?

Selv om Anthropic først henvender seg til USA, er konsekvensene globale. EU har med sin AI Act, gradvis anvendt siden 2024-2025, allerede lagt lignende grunnlag for åpenhet og risikokategorisering. Men debatten om myndighetenes blokkeringsmakt — evnen til å forby utrullinger før de skader — er fortsatt åpen i Europa og ellers.

Frankrike, som huser store aktører som Mistral AI, følger debattene tett. Publiseringen av dette rammeverket fra et av verdens mest innflytelsesrike KI-selskaper kan akselerere europeiske diskusjoner om de mest bindende reguleringsinstrumentene.

Hastverket ifølge Anthropic: handle før det er for sent

Tonen i Anthropics forslag er bevisst presserende. Selskapet understreker at modellenes evner vil fortsette å øke raskt de kommende månedene, og at styringen må holde samme tempo. Det oppfordrer beslutningstakere til å engasjere seg aktivt nå — ikke om to år, ikke etter en katastrofe.

Grepet er bemerkelsesverdig fordi det kommer fra et selskap som selv lager disse kraftige modellene. Ved å foreslå regler som også vil gjelde egne produkter, ønsker Anthropic å styrke troverdigheten til sin visjon om ansvarlig utviklet KI — og påvirke den internasjonale reguleringen i en retning de mener er både trygg og forenlig med innovasjon.

De to fulle dokumentene er tilgjengelige på Anthropics offisielle nettsted. Debatten har bare begynt.