In genau sechs Tagen, am 2. August 2026, wird die europäische Verordnung über künstliche Intelligenz — der AI Act — nahezu vollständig anwendbar. Der 2024 nach jahrelangen Verhandlungen verabschiedete Grundlagentext regelt nun die Entwicklung und Nutzung von KI-Systemen in Europa. Für französische Unternehmen, ob groß oder klein, ist die Zeit theoretischer Fragen vorbei: Jetzt gilt es zu verstehen, was konkret anwendbar ist und welche Folgen sich daraus ergeben.

Ein schrittweiser Zeitplan erreicht seine entscheidende Phase

Der AI Act wurde nicht auf einen Schlag wirksam. Seit seinem Inkrafttreten im August 2024 erfolgt die Anwendung schrittweise:

  • Februar 2025: Verbot von KI-Systemen, die als unannehmbar gelten, etwa Social Scoring von Bürgern oder psychologische Manipulation ohne deren Wissen.
  • August 2025: besondere Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) — große Sprachmodelle wie GPT oder Claude, die insbesondere Transparenz- und Urheberrechtsregeln einhalten müssen.
  • 2. August 2026: Inkrafttreten der Transparenzpflichten nach Artikel 50 und Beginn der Anwendung für einen großen Teil der Hochrisiko-KI-Systeme.

Ab diesem Datum können Verstöße gegen die Transparenzvorschriften im Rahmen des Regelwerks vollständig sanktioniert werden.

Was am 2. August in Kraft tritt: zwei zentrale Pflichten

1. Nutzer darüber informieren, dass sie mit einer KI sprechen

Dies ist die unmittelbarste Pflicht und sie betrifft sehr viele Unternehmen. Wenn Sie auf Ihrer Website oder in Ihren Anwendungen einen Chatbot, einen virtuellen Assistenten oder ein anderes dialogorientiertes System einsetzen, müssen Sie die Nutzer klar darüber informieren, dass sie mit einer Maschine interagieren und nicht mit einem Menschen. Diese Anforderung gilt, sobald eine vernünftige Verwechslungsgefahr besteht.

In der Praxis genügt häufig ein einfacher Hinweis oder eine einleitende Mitteilung — „Sie chatten mit unserem KI-Assistenten“. Nicht zulässig ist es dagegen, einen Chatbot bewusst so zu gestalten, dass er sich als reale Person ausgibt.

2. KI-generierte Inhalte kennzeichnen

Deepfakes und synthetische, von KI erzeugte Inhalte (Bilder, Videos und Texte), die die Öffentlichkeit täuschen könnten, müssen als solche gekennzeichnet werden. Diese Pflicht betrifft insbesondere politische, informative oder kommerzielle Inhalte. Auch Plattformen, die solche Inhalte hosten, tragen im Rahmen dieser Regelung Verantwortung.

Hochrisiko-Systeme: schrittweise Herstellung der Konformität

Der AI Act stuft KI-Systeme nach ihrem potenziellen Risikoniveau ein. Hochrisiko-Systeme sind Systeme, die Entscheidungen mit erheblichen Folgen für Menschen treffen oder beeinflussen: Einstellung und Bewertung von Bewerbern, Kredit-Scoring, schulische Benotung, Zugangskontrolle, medizinische Entscheidungen und weitere Bereiche.

Eine gute Nachricht für Unternehmen: Die schwersten Pflichten für diese Systeme — dokumentiertes Risikomanagement, verpflichtende menschliche Aufsicht und Nachverfolgbarkeit von Entscheidungen — wurden nach den Verhandlungen über den zu Jahresbeginn verabschiedeten „Digital Omnibus“ größtenteils auf Dezember 2027 verschoben. Dadurch erhalten Akteure, die solche Lösungen entwickeln oder einsetzen, etwas mehr Zeit. Aber Vorsicht: Die Anpassung muss jetzt beginnen und nicht erst in letzter Minute.

Wer ist in Frankreich konkret betroffen?

Der AI Act gilt für jede Organisation, die KI-Systeme im europäischen Raum einsetzt oder vermarktet, unabhängig von ihrer Größe oder dem Land ihrer Niederlassung. Zu den häufigsten Fällen in Frankreich zählen:

  • E-Commerce und Kundenservice: Support-Chatbots, Empfehlungsagenten und Personalisierungswerkzeuge.
  • Personalwesen und Recruiting: Software zur Lebenslaufauswahl, Werkzeuge zur Bewerberbewertung und Performance-Management-Systeme.
  • Finanzen und Kredit: automatisiertes Scoring, Betrugserkennung und personalisierte Beratung.
  • Marketing und Kommunikation: mit KI erzeugte Bilder, Texte oder Videos, die für die breite Öffentlichkeit veröffentlicht werden.
  • Gesundheitswesen: Diagnosehilfen, Triage-Systeme und Medizinprodukte mit integrierter KI.

Kleinstunternehmen und KMU sind nicht ausgenommen, doch die Verordnung berücksichtigt ihre Größe: Bei einer Sanktion gilt der niedrigere Betrag aus dem festen Höchstbetrag und dem Prozentsatz des weltweiten Umsatzes. Dadurch wird ihre unmittelbare finanzielle Belastung in der Praxis begrenzt.

Welche Sanktionen drohen bei Verstößen?

Der AI Act sieht ein abschreckendes Sanktionsinstrumentarium vor. Die Höchstbeträge lauten:

  • 35 Millionen Euro oder 7 % des weltweiten Umsatzes bei den schwersten Verstößen im Zusammenhang mit verbotenen Systemen.
  • 15 Millionen Euro oder 3 % des weltweiten Umsatzes bei Nichteinhaltung der Pflichten für Hochrisiko-Systeme, GPAI oder Transparenzvorschriften.
  • 7,5 Millionen Euro oder 1,5 % des weltweiten Umsatzes bei der Übermittlung unrichtiger Informationen an Behörden.

In Frankreich wurde die CNIL für einen Teil der Pflichten als zuständige Aufsichtsbehörde benannt, insbesondere für Pflichten im Zusammenhang mit personenbezogenen Daten. Je nach Bereich könnten weitere Fachaufsichtsbehörden beteiligt werden.

Was ist vor dem 2. August konkret zu tun?

Wenn Sie noch keine Maßnahmen zur Einhaltung der Vorschriften eingeleitet haben, sollten Sie folgende Schritte priorisieren:

  • Ihre KI-Systeme erfassen: Listen Sie alle Werkzeuge und Anwendungen auf, die in Ihrer Organisation KI nutzen, unabhängig davon, ob sie intern entwickelt oder bei einem Anbieter gekauft wurden.
  • Das Risikoniveau bewerten: Prüfen Sie für jedes System, ob es nach den Kriterien des AI Act als „Hochrisiko“ einzustufen ist, insbesondere wenn Entscheidungen Menschen in sensiblen Bereichen betreffen.
  • Ihre dialogorientierten Oberflächen aktualisieren: Ergänzen Sie bei Chatbots und virtuellen Assistenten einen klaren Hinweis auf den Einsatz von KI.
  • Ihre Teams schulen: Artikel 4 des AI Act verpflichtet Unternehmen, bei Personen, die mit diesen Systemen arbeiten, eine ausreichende „KI-Kompetenz“ sicherzustellen.
  • Ihre Praktiken dokumentieren: Beginnen Sie mit der Erstellung einer Dokumentation zur KI-Governance in Ihrer Organisation — sie wird für künftige Pflichten unverzichtbar sein.

Ein Regelwerk als Teil eines dauerhaften Wandels

Über die unmittelbaren Pflichten hinaus signalisiert der AI Act einen Paradigmenwechsel. Künstliche Intelligenz ist kein regelungsfreier Raum mehr: Sie wird nun wie jede andere Technologie mit starken gesellschaftlichen Auswirkungen behandelt, mit entsprechenden Verantwortlichkeiten und Schutzvorkehrungen. Für vorausschauende Unternehmen bietet sich zugleich die Chance, das Vertrauen ihrer Kunden und Partner zu gewinnen, indem sie einen verantwortungsvollen Umgang mit KI zeigen.

Der 2. August 2026 ist kein Endpunkt, sondern ein Ausgangspunkt. Unternehmen, die sich ernsthaft vorbereiten, werden bei der weiteren Entwicklung eines Regelwerks, das sich gemeinsam mit der Technologie verändern wird, einen Vorsprung haben.