2026년 6월 10일 수요일, 미국 기업 Anthropic은 전 세계 고급 인공지능 개발을 규율하기 위한 두 개의 주요 정책 문서를 발표했다. 연구자들이 지수적이라고 표현하는 발전 속도 앞에서, 회사는 느리게 변화하는 세계를 위해 설계된 현재 정치 제도가 더 이상 적합하지 않다고 판단한다. 메시지는 분명하다. 모델 능력이 인간의 통제 능력을 넘어가기 전에 긴급히 행동해야 한다.

강력한 AI 시대를 준비하는 두 가지 프레임워크

오늘 공개된 두 문서는 명확한 이름을 갖고 있다: Advanced AI Framework와 Economic Policy Framework다. 함께 보면, 점점 강력해지는 것이 더 이상 부정하기 어려운 기술을 관리하기 위한 일관된 로드맵이다.

첫 번째 프레임워크는 가장 강력한 모델과 관련된 재앙적 위험을 다룬다. 두 번째는 정부가 고용과 부의 분배에 미치는 AI의 거대한 영향에 대비해 경제와 노동자를 어떻게 준비시킬 수 있는지에 초점을 둔다.

“AI는 지수적 속도로 발전하고 있으며, 정치 과정은 더 느린 세계를 위해 설계되었다.”

— Anthropic, Policy on the AI Exponential, 2026년 6월

정부의 차단 권한

고급 프레임워크의 가장 급진적인 제안은 아마 이것이다. 정부는 재앙적 피해의 중대한 위험을 보이는 모델의 배포를 법적으로 차단하거나 억제할 권한을 가져야 한다는 것이다. 이 권한은 미국의 현행 법률이나 진행 중인 입법 제안보다 더 나아간다.

그 대신 권력 남용이나 혁신 억압을 막기 위한 엄격한 안전장치가 마련된다. 위반 시 제재는 민사적이며, 기업의 전 세계 연간 매출에 비례하고 재범 시 증가한다.

이 프레임워크는 업계 모든 기업에 적용되지는 않는다. 대상은 10²⁵회 이상의 부동소수점 연산(FLOPs)으로 훈련된 모델을 개발하는 기업 중, AI 관련 매출이 5억 달러를 넘거나 해당 분야 R&D에 10억 달러 이상을 쓰는 기업이다.

식별된 네 가지 재앙적 위험

Anthropic은 문서에서 강력한 규제 개입을 정당화하는 네 가지 위험 범주를 설명한다:

• 생물학적 위험. 신약 발견을 가속하는 능력은 안전장치가 없으면 생물무기나 위험한 바이러스 제작을 돕는 데 사용될 수 있다. AI는 이 위협을 더 싸고 더 쉽게 접근 가능하게 만든다.
• 사이버 위험. frontier models는 이제 필수 소프트웨어의 중대한 취약점을 대규모로 탐지할 수 있다. 이 능력이 공격적으로 사용되면 병원, 전력망, 핵심 인프라가 잠재적 표적이 된다.
• 통제 상실 위험. AI 시스템이 개선될수록 개발자의 의도 밖에서 행동하는 에이전트를 통제하기 훨씬 어려워질 수 있다. 이는 수년간 많은 연구자를 걱정시킨 시나리오다.
• 자동화된 R&D. AI는 이제 AI 연구 자체의 점점 더 큰 부분을 자동화하고 있다. 이 재귀적 가속 메커니즘은 앞선 세 가지 위험을 예측하기 어렵게 증폭할 수 있다.

최첨단 개발자를 위한 구체적 의무

Anthropic의 프레임워크는 frontier models를 개발하는 기업에 적용될 요구사항을 제안한다:

• 의무적 투명성: 테스트 결과, 능력과 위험을 평가하는 시스템 카드, 전체 위험 태세에 관한 정기 보고서 공개.
• 독립 평가: 개발 기업과 별개의 자격 있는 외부 평가자를 최소 한 명 이상 의무적으로 활용.
• 강화된 보안: 국가를 포함한 악의적 행위자로부터 모델 가중치와 훈련 인프라 보호.

Anthropic은 California와 New York을 포함한 여러 미국 주가 이미 투명성을 요구하는 법을 통과시켰다고 강조한다. 하지만 회사는 투명성만으로는 더 이상 충분하지 않다고 본다: “가속의 속도는 투명성만으로는 더 이상 충분하지 않다는 뜻이다. 정부는 더 실질적인 역할을 해야 한다.”

기록적 자금 조달과 임박한 IPO 배경

이 정책 제안들은 Anthropic의 폭발적 성장 속에서 나왔다. 2026년 5월 말, 회사는 650억 달러 규모의 Series H 자금 조달을 발표해 기업가치를 약 9,650억 달러로 끌어올렸다. 6월 1일에는 Securities and Exchange Commission(SEC)에 S-1 문서를 비공개로 제출했다고 확인했으며, 이는 임박한 IPO의 첫 단계다.

또한 이 정책 발표 전날 Anthropic은 Claude Fable 5와 Claude Mythos 5 모델을 출시했다. 이는 고급 코딩 작업과 집중적인 지적 업무를 위한 차세대 시스템으로 소개됐다. Mythos Preview 모델은 최근 주요 운영체제와 웹브라우저에서 수천 개의 중대한 취약점을 발견하며 능력을 입증했고, 이는 정책 프레임워크의 사이버 위험을 구체적으로 보여준다.

연방정부와 주정부 사이의 차별적 접근

Anthropic은 이 프레임워크가 우선적으로 미국 연방정부를 위해 설계됐다고 설명하면서도, AI 위험은 연방 차원의 조치를 기다릴 수 없다고 인정한다. 회사는 연방정부가 오늘 제안한 프레임워크만큼 강력한 법을 채택하지 않는 한 주법에 대한 연방 선점을 반대한다.

이 입장은 미국 정치의 현실을 보여준다. 강력한 연방법이 없을 때 주정부는 새로운 위험에 대한 1차 규제자 역할을 한다. Anthropic은 그 역할을 보존하면서도 전국적 조정을 요구한다.

그렇다면 프랑스는?

Anthropic의 제안은 우선 미국을 향하지만, 그 영향은 세계적이다. 유럽연합은 2024-2025년부터 점진적으로 적용된 AI Act를 통해 투명성과 위험 분류에 대해 유사한 기반을 이미 마련했다. 하지만 피해가 발생하기 전에 배포를 금지하는 권한, 즉 당국의 차단 권한에 대한 논쟁은 유럽과 다른 지역 모두에서 여전히 열려 있다.

Mistral AI 같은 주요 기업을 보유한 프랑스는 이 논의를 면밀히 지켜보고 있다. 세계 AI 분야의 가장 영향력 있는 기업 중 하나가 이 프레임워크를 발표함으로써, 더 강력한 규제 수단에 대한 유럽 논의가 빨라질 수 있다.

Anthropic이 말하는 긴급성: 너무 늦기 전에 행동

Anthropic의 제안은 의도적으로 긴박한 어조를 띤다. 회사는 앞으로 몇 달 동안 모델 능력이 계속 빠르게 발전할 것이며, 거버넌스도 그 속도에 맞춰야 한다고 강조한다. 정책 결정자들에게 지금 적극적으로 이 문제에 참여하라고 촉구한다. 2년 뒤도, 재앙 이후도 아니다.

이 움직임은 이러한 강력한 모델을 직접 만드는 회사에서 나왔다는 점에서 주목할 만하다. 자사 제품에도 적용될 규칙을 제안함으로써 Anthropic은 책임 있는 AI 개발이라는 비전에 신뢰성을 부여하고, 안전하면서 혁신과 양립 가능한 방향으로 국제 규제 프레임워크에 영향을 미치려 한다.

두 문서 전문은 Anthropic 공식 웹사이트에서 확인할 수 있다. 논쟁은 이제 막 시작됐다.