Ein Softwareunternehmen außerhalb Europas baut einen Chat-Assistenten in seinen Onlineshop ein, und die ersten Kundinnen und Kunden kommen aus Deutschland und Frankreich. Im selben Quartal testet die Personalabteilung ein Tool, das Bewerbungen anhand der Lebensläufe in eine Rangfolge bringt. Beide Funktionen nutzen KI, beide betreffen Menschen in der EU, und die Rechtsabteilung stellt zu beiden dieselbe Frage: Was sagt die KI-Verordnung der EU dazu? Die Antworten fallen sehr unterschiedlich aus, denn das Gesetz ordnet KI nach ihrem Einsatzzweck ein, nicht nach der Technik dahinter.
Dieser Beitrag erklärt, für wen die Verordnung gilt, welche vier Risikostufen es gibt, welche Praktiken verboten sind, welche Pflichten für Hochrisiko-Systeme gelten, welche Transparenzregeln Chatbots und erzeugte Inhalte betreffen, was für KI-Modelle mit allgemeinem Verwendungszweck gilt, wie der 2026 geänderte Zeitplan aussieht, welche Bußgelder drohen und was KI-Kompetenz bedeutet. Er ist ein allgemein verständlicher Überblick und keine Rechtsberatung; für eine Entscheidung über Ihr eigenes Produkt lesen Sie den amtlichen Text und fragen Sie eine Anwältin oder einen Anwalt.
Was ist die KI-Verordnung der EU?
Die KI-Verordnung (englisch AI Act) ist eine Verordnung der Europäischen Union, die gemeinsame Regeln für die Entwicklung, den Vertrieb und die Nutzung künstlicher Intelligenz festlegt, mit strengeren Regeln für Anwendungen, die Gesundheit, Sicherheit und Grundrechte stärker gefährden. Amtlich ist sie die Verordnung (EU) 2024/1689, kurz „Verordnung über künstliche Intelligenz“. Sie wurde am 12. Juli 2024 im Amtsblatt der EU veröffentlicht und ist seit dem 1. August 2024 in Kraft.
Als Verordnung gilt sie unmittelbar in jedem Mitgliedstaat; jedes Land benennt die Behörden, die sie durchsetzen. Ein KI-System ist dort ein maschinengestütztes System, das mit einem gewissen Grad an Autonomie arbeitet und aus seinen Eingaben ableitet, wie es Ausgaben wie Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt. Darunter fallen ein Modell zur Kreditwürdigkeitsprüfung, ein Chatbot und ein Bildgenerator, nicht aber Software, die nur feste, von Menschen geschriebene Regeln abarbeitet.
Im Juli 2026 hat die EU die Verordnung mit der Digital-Omnibus-Verordnung zur KI geändert, der Verordnung (EU) 2026/1744, die seit dem 27. Juli 2026 in Kraft ist. Sie verschiebt die Hochrisiko-Regeln, fügt zwei Verbote hinzu und erleichtert kleineren Unternehmen einige Pflichten. Dieser Beitrag gibt den geänderten Stand wieder.
Für wen gilt die KI-Verordnung?
Die Verordnung gilt für jedes Unternehmen in der KI-Lieferkette, dessen Systeme auf den EU-Markt gelangen oder dessen KI-Ausgaben in der EU verwendet werden, unabhängig vom Firmensitz. Sie nennt vier Hauptrollen:
- Anbieter: entwickelt ein KI-System oder ein KI-Modell mit allgemeinem Verwendungszweck oder lässt es entwickeln und bringt es unter eigenem Namen in Verkehr, entgeltlich oder kostenlos.
- Betreiber: verwendet ein KI-System in eigener Verantwortung, etwa eine Bank mit einem Tool zur Kreditwürdigkeitsprüfung oder ein Shop mit einem Chatbot. Die persönliche, nicht berufliche Nutzung ist ausgenommen.
- Einführer: ein in der EU niedergelassenes Unternehmen, das das System eines Anbieters aus einem Drittland auf den EU-Markt bringt.
- Händler: jeder andere in der Lieferkette, der das System in der EU bereitstellt, etwa ein Wiederverkäufer.
Ein Anbieter aus Kanada, der ein KI-System in der EU verkauft, fällt darunter, ebenso ein Anbieter oder Betreiber an einem beliebigen Ort, dessen Systemausgaben in der EU verwendet werden.
Welche vier Risikostufen gibt es?
Die KI-Verordnung ordnet KI-Systeme in vier Stufen mit jeweils eigenen Pflichten ein. Die Stufe eines Systems ergibt sich aus vier Prüfungen:
- Ist die Nutzung verboten? Fällt das System unter eine der Praktiken in Artikel 5, darf es in der EU nicht eingesetzt werden.
- Ist es ein Hochrisiko-System? Das ist der Fall, wenn es Sicherheitsbauteil eines Produkts ist, das bereits unter EU-Sicherheitsrecht fällt (Anhang I, etwa Medizinprodukte), oder wenn es in einem der acht sensiblen Bereiche aus Anhang III eingesetzt wird.
- Hat es Transparenzpflichten? Systeme, die mit Menschen sprechen, Inhalte erzeugen oder Emotionen erkennen, müssen das offenlegen, unabhängig von ihrer sonstigen Stufe.
- Alles andere hat ein minimales Risiko. Die Verordnung fügt hier keine neuen Pflichten hinzu.
| Risikostufe | Beispiele | Was gilt |
|---|---|---|
| Unannehmbar | Social Scoring, Emotionserkennung am Arbeitsplatz | Verboten |
| Hoch | Rangfolge von Lebensläufen, Kreditwürdigkeit, Prüfungsbewertung | Strenge Anforderungen |
| Begrenzt (Transparenz) | Chatbots, Deepfakes | Offenlegen, dass es KI ist |
| Minimal | Spamfilter, KI in Videospielen | Keine neuen Regeln |
Die Übersicht der Europäischen Kommission zum KI-Gesetz nennt die dritte Stufe „Transparenzrisiko“ und hält fest, dass die überwiegende Mehrheit der heute in der EU genutzten KI-Systeme ein minimales Risiko hat.
Welche KI-Praktiken sind verboten?
Artikel 5 verbietet KI-Praktiken, die die EU als klare Gefahr für die Sicherheit oder die Rechte von Menschen ansieht; diese Verbote gelten seit dem 2. Februar 2025:
- manipulative oder täuschende Techniken, die die Entscheidungen einer Person verzerren und erheblichen Schaden verursachen;
- das Ausnutzen von Schwächen aufgrund von Alter, Behinderung oder sozialer oder wirtschaftlicher Lage;
- Social Scoring, das zu ungerechtfertigter oder sachfremder Schlechterstellung führt;
- die Vorhersage, dass eine Person eine Straftat begehen wird, allein auf Grundlage von Profiling oder Persönlichkeitsmerkmalen;
- der Aufbau von Gesichtserkennungsdatenbanken durch ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder aus Videoüberwachung;
- das Ableiten von Emotionen am Arbeitsplatz und in Bildungseinrichtungen, außer aus medizinischen oder Sicherheitsgründen;
- biometrische Kategorisierung, die auf sensible Merkmale wie ethnische Herkunft, politische Meinung, Religion oder sexuelle Orientierung schließt;
- biometrische Echtzeit-Fernidentifizierung in öffentlich zugänglichen Räumen zur Strafverfolgung, außer in engen, aufgezählten Fällen.
Die Änderung von 2026 fügt ab dem 2. Dezember 2026 zwei Verbote hinzu: KI, die ohne Einwilligung realistische intime Bilder einer identifizierbaren Person erzeugt, und KI, die Darstellungen sexuellen Kindesmissbrauchs erzeugt.
Was müssen Hochrisiko-KI-Systeme erfüllen?
Hochrisiko-KI-Systeme dürfen erst verkauft und genutzt werden, wenn der Anbieter eine Reihe von Anforderungen erfüllt, und auch ihre Nutzer haben laufende Pflichten. Die acht Bereiche aus Anhang III sind Biometrie; kritische Infrastruktur; allgemeine und berufliche Bildung; Beschäftigung und Personalmanagement; Zugang zu grundlegenden privaten und öffentlichen Diensten, etwa die Kreditwürdigkeitsprüfung; Strafverfolgung; Migration, Asyl und Grenzkontrolle; sowie Rechtspflege und demokratische Prozesse.
Nicht jedes Tool in diesen Bereichen ist ein Hochrisiko-System. Ein System, das nur eine eng begrenzte verfahrenstechnische Aufgabe erledigt oder nur das Ergebnis einer bereits abgeschlossenen menschlichen Tätigkeit verbessert, kann aus der Kategorie herausfallen, wenn es kein erhebliches Risiko birgt. Ein System, das Profiling natürlicher Personen vornimmt, gilt immer als Hochrisiko-System.
Der Anbieter muss ein Risikomanagementsystem betreiben, Trainings-, Validierungs- und Testdaten verwenden, die Qualitätsregeln erfüllen, eine technische Dokumentation erstellen, das System Protokolle aufzeichnen lassen, Betreibern klare Gebrauchsanweisungen geben, es für menschliche Aufsicht auslegen und es genau, robust und sicher machen. Danach muss es eine Konformitätsbewertung durchlaufen, die CE-Kennzeichnung tragen und in einer EU-Datenbank registriert werden.
Betreiber haben kürzere, aber echte Pflichten: das System gemäß der Gebrauchsanweisung verwenden, geschulte Personen mit der Aufsicht betrauen, seinen Betrieb überwachen, seine Protokolle aufbewahren und die Beschäftigten informieren, bevor es an ihrem Arbeitsplatz eingesetzt wird.
Welche Transparenzregeln gelten für Chatbots und Deepfakes?
Artikel 50 verlangt, dass Menschen erfahren, wenn sie es mit KI zu tun haben; seine Pflichten gelten seit dem 2. August 2026:
- Chatbots: Ein System, das mit Menschen kommuniziert, muss ihnen mitteilen, dass es eine KI ist, sofern das nicht aus dem Kontext offensichtlich ist.
- Erzeugte Inhalte: Anbieter von Systemen, die Audio, Bilder, Video oder Text erzeugen, müssen die Ausgabe maschinenlesbar markieren, damit sie als KI-erzeugt erkannt werden kann. Oft spricht man hier von Wasserzeichen.
- Emotionserkennung und biometrische Kategorisierung: Betreiber müssen die betroffenen Personen informieren.
- Deepfakes und Texte von öffentlichem Interesse: Betreiber müssen Deepfake-Bilder, -Audio und -Videos offenlegen, ebenso KI-geschriebene Texte, die zur Information der Öffentlichkeit veröffentlicht werden, es sei denn, ein Mensch hat den Text geprüft und trägt die redaktionelle Verantwortung.
Generative Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, haben bis zum 2. Dezember 2026 Zeit, die Markierung nachzurüsten. Am 10. Juni 2026 hat die Kommission einen freiwilligen Praxisleitfaden zur Markierung und Kennzeichnung KI-erzeugter Inhalte veröffentlicht, mit praktischen Schritten für beide Rollen. Solche Ausgaben heißen auch synthetische Inhalte; sie sind etwas anderes als synthetische Daten, die Teams zum Trainieren und Testen von Modellen erzeugen.
Welche Regeln gelten für KI-Modelle mit allgemeinem Verwendungszweck?
KI-Modelle mit allgemeinem Verwendungszweck, die mit großen Datenmengen trainiert werden und ein breites Spektrum an Aufgaben erledigen, haben seit dem 2. August 2025 eigene Pflichten, unabhängig von den Risikostufen der darauf aufbauenden Systeme. Die großen Sprachmodelle hinter Chat-Assistenten sind das bekannteste Beispiel; Was ist ein LLM? erklärt, wie sie trainiert werden. Der Anbieter muss:
- eine technische Dokumentation des Modells führen, einschließlich Training und Tests;
- Unternehmen, die auf dem Modell aufbauen, die nötigen Informationen über seine Fähigkeiten und Grenzen geben;
- eine Strategie zur Einhaltung des EU-Urheberrechts haben, einschließlich der maschinenlesbaren Vorbehalte (Opt-outs), mit denen Rechteinhaber ihre Werke vom Text- und Data-Mining ausnehmen;
- eine hinreichend detaillierte Zusammenfassung der für das Training verwendeten Inhalte veröffentlichen, nach einer Vorlage des Büros für Künstliche Intelligenz.
Die Kommission hat diese Vorlage für die Zusammenfassung der Trainingsinhalte am 24. Juli 2025 veröffentlicht. Für Daten aus dem Web fragt sie nach den Namen der eingesetzten Crawler, dem Erhebungszeitraum und den obersten 10 % der ausgelesenen Domains; kleine und mittlere Unternehmen nennen die obersten 5 % oder 1.000 Domains, je nachdem, welcher Wert niedriger ist. Modelle, die vor dem 2. August 2025 in Verkehr gebracht wurden, haben bis zum 2. August 2027 Zeit.
Hier trifft Modelltraining auf die Erhebung öffentlicher Webdaten: Teams müssen jetzt festhalten, welcher Crawler wann was von welchen Domains erhoben hat, und die Vorbehalte der Verlage respektieren. Ob das Erheben öffentlicher Seiten überhaupt zulässig ist, hängt von mehr als der KI-Verordnung ab, wie Ist Web Scraping legal? Ein Überblick erklärt.
Unsere Seite zu Data-Scraping-Lösungen beschreibt die Proxy-Pools, die wir für Erhebungsaufträge bereitstellen; dieselbe Dokumentation gilt unabhängig vom eingesetzten Tool.
Bei Modellen, die mit mehr als 10^25 Gleitkommaoperationen trainiert wurden, wird ein systemisches Risiko vermutet; für sie gelten zusätzliche Pflichten: Tests gegen Missbrauch, Meldung schwerwiegender Vorfälle und Cybersicherheit. Der freiwillige Praxisleitfaden für KI mit allgemeinem Verwendungszweck, veröffentlicht am 10. Juli 2025, bietet Anbietern einen Weg, die Einhaltung nachzuweisen.
Welcher Zeitplan gilt für die KI-Verordnung?
Die KI-Verordnung gilt stufenweise, und die Digital-Omnibus-Verordnung zur KI hat die Hochrisiko-Termine nach hinten verschoben. Die geänderten Termine stehen in der Verordnung (EU) 2026/1744, veröffentlicht am 24. Juli 2026:
| Datum | Was gilt |
|---|---|
| 1. August 2024 | Die Verordnung tritt in Kraft |
| 2. Februar 2025 | Verbote und KI-Kompetenz |
| 2. August 2025 | Pflichten für Modelle mit allgemeinem Verwendungszweck, Sanktionen |
| 2. August 2026 | Transparenzpflichten, die meisten übrigen Regeln |
| 2. Dezember 2026 | Zwei neue Verbote; Markierung für ältere Systeme |
| 2. August 2027 | Modelle, die vor dem 2. August 2025 in Verkehr kamen |
| 2. Dezember 2027 | Hochrisiko-Systeme in den Bereichen aus Anhang III |
| 2. August 2028 | Hochrisiko-Systeme in Produkten aus Anhang I |
Vor der Änderung sollten die Hochrisiko-Regeln ab dem 2. August 2026 (Anhang III) und dem 2. August 2027 (Anhang I) gelten; sie wurden verschoben, nicht gestrichen. Die Kommission hat die Änderung am 19. November 2025 vorgeschlagen, unterzeichnet wurde die Verordnung am 8. Juli 2026; sie ist also geltendes Recht und kein Vorschlag mehr. Prüfen Sie die konsolidierte Fassung auf EUR-Lex, bevor Sie mit einem Termin planen.
Welche Bußgelder sieht die KI-Verordnung vor?
Die KI-Verordnung legt drei Stufen von Höchstbußgeldern fest, jeweils der höhere Wert aus einem festen Betrag und einem Anteil am weltweiten Jahresumsatz:
- bis zu 35 Millionen Euro oder 7 % für den Einsatz einer verbotenen Praktik;
- bis zu 15 Millionen Euro oder 3 % für Verstöße gegen die meisten übrigen Pflichten, darunter die Hochrisiko- und Transparenzregeln;
- bis zu 7,5 Millionen Euro oder 1 % für falsche oder irreführende Angaben gegenüber Behörden.
Für kleine und mittlere Unternehmen (KMU), einschließlich Start-ups, gilt jeweils der niedrigere der beiden Werte, und die Änderung von 2026 dehnt das auf kleine Midcap-Unternehmen aus. Bei KI-Systemen setzen nationale Behörden die Regeln durch; bei Modellen mit allgemeinem Verwendungszweck kann die Kommission gegen Anbieter Geldbußen von bis zu 15 Millionen Euro oder 3 % des Umsatzes verhängen, je nachdem, welcher Betrag höher ist.
Was bedeutet KI-Kompetenz nach Artikel 4?
Artikel 4 verlangt von Anbietern und Betreibern Maßnahmen, um die KI-Kompetenz ihres Personals zu stärken, also das Wissen, KI-Systeme sachkundig einzusetzen und ihre Risiken zu verstehen. Er gilt seit dem 2. Februar 2025, und die Änderung von 2026 hat die Formulierung abgeschwächt: Unternehmen müssen die KI-Kompetenz ihrer Beschäftigten fördern, ohne für jede Person ein bestimmtes Niveau garantieren zu müssen. In der Praxis heißt das kurze Schulungen darüber, was die Tools können, welche Daten in sie eingegeben werden dürfen und wann ein Ergebnis von einem Menschen geprüft werden muss.
Wo Ihnen die KI-Verordnung in der Praxis begegnet
Die meisten Unternehmen begegnen der Verordnung über ganz normale Produkte. Eine Personalabteilung, die ein Tool zur Vorauswahl von Lebensläufen kauft, ist ab dem 2. Dezember 2027 Betreiber eines Hochrisiko-Systems, und ihr Lieferant ist der Anbieter mit den Hauptanforderungen; ein Kreditgeber, der Kreditanträge bewertet, ist in derselben Lage. Ein Chat-Assistent im Support muss sagen, dass er eine KI ist, und ein Marketingteam, das KI-erzeugte Videos veröffentlicht, muss die Deepfake-Regel beachten.
Produktteams, die eine KI-Funktion in mehreren EU-Ländern einführen, prüfen außerdem, was jeder Markt tatsächlich sieht, etwa ob der KI-Hinweis in der Landessprache erscheint. Unsere Seite zur Lokalisierung beschreibt, wie Teams eine Website über echte IPs aus den Ländern prüfen, die sie bedienen.
Häufige Fehler
- Annehmen, die Verordnung betreffe nur EU-Unternehmen. Wer in die EU verkauft oder dort KI-Ausgaben nutzen lässt, fällt in den Anwendungsbereich.
- „KI“ als eine einzige Kategorie behandeln. Dasselbe Modell kann in einem Produkt ein minimales Risiko haben und in einem anderen Teil eines Hochrisiko-Systems sein; entscheidend ist der Einsatz.
- Veraltete Fristen lesen. Leitfäden von vor Juli 2026 nennen den 2. August 2026 für alle Hochrisiko-Regeln; die geänderten Termine liegen später.
- Glauben, die Verschiebung habe die Pflichten abgeschafft. Die Hochrisiko-Anforderungen sind inhaltlich unverändert; nur die Termine haben sich verschoben.
- Die Betreiberseite vergessen. Wer ein konformes Tool kauft, bleibt für Aufsicht, Überwachung und Protokolle verantwortlich.
- DSGVO-Konformität für ausreichend halten. Beide Gesetze gelten nebeneinander.
Entscheidungshilfe
| Situation | Was Sie zuerst prüfen |
|---|---|
| Ein Chatbot auf einer Website für EU-Nutzer | Offenlegung nach Artikel 50 |
| KI-Bilder oder -Videos veröffentlichen | Deepfake-Kennzeichnung, Markierung |
| Ein Personal-, Kredit- oder Prüfungstool kaufen | Pflichten als Betreiber eines Hochrisiko-Systems |
| Ein Produkt auf Basis eines LLM bauen | Ihre Rolle als Anbieter |
| Ein Modell mit allgemeinem Verwendungszweck trainieren | Artikel 53, Zusammenfassung der Trainingsinhalte |
| Beschäftigte nutzen KI-Tools bei der Arbeit | KI-Kompetenz nach Artikel 4 |
Häufige Fragen
Wann tritt die KI-Verordnung der EU in Kraft?
Sie ist am 1. August 2024 in Kraft getreten und gilt stufenweise: Verbote ab dem 2. Februar 2025, Modellpflichten ab dem 2. August 2025, Transparenzpflichten ab dem 2. August 2026 und Hochrisiko-Regeln ab dem 2. Dezember 2027 oder dem 2. August 2028.
Gilt die KI-Verordnung auch für Unternehmen außerhalb der EU?
Ja, sobald ihre KI die EU erreicht. Ein Anbieter, der von einem beliebigen Ort aus ein KI-System oder -Modell auf dem EU-Markt in Verkehr bringt, fällt darunter, ebenso ein Anbieter oder Betreiber, dessen Systemausgaben in der EU verwendet werden.
Ist ChatGPT nach der KI-Verordnung ein Hochrisiko-System?
Nicht für sich genommen: Ein allgemeiner Chat-Assistent steht nicht auf der Hochrisiko-Liste. Sein Modell hat die Pflichten für Modelle mit allgemeinem Verwendungszweck, und der Chat muss offenlegen, dass er eine KI ist. Setzt ein Unternehmen ihn für einen Hochrisiko-Zweck ein, etwa um Bewerbungen zu bewerten, kann dieser Einsatz unter die Hochrisiko-Regeln fallen.
Was verlangt Artikel 50 der KI-Verordnung?
Artikel 50 ist der Transparenzartikel. Chatbots müssen offenlegen, dass sie KI sind, generative Systeme müssen ihre Ausgabe maschinenlesbar markieren, und Betreiber müssen Deepfakes offenlegen und Menschen informieren, die einer Emotionserkennung ausgesetzt sind.
Was unterscheidet die KI-Verordnung von der DSGVO?
Die DSGVO schützt personenbezogene Daten bei jeder Verarbeitung, die KI-Verordnung regelt KI-Systeme nach ihrem Risiko, ob sie personenbezogene Daten nutzen oder nicht. Ein KI-Tool, das personenbezogene Daten verarbeitet, muss beide Gesetze einhalten.
Wo finde ich den amtlichen Text der KI-Verordnung?
Der amtliche Text steht auf EUR-Lex, der Rechtsdatenbank der EU, als Verordnung (EU) 2024/1689, in allen Amtssprachen der EU einschließlich Deutsch und als PDF. Die Änderungen von 2026 stehen in der Verordnung (EU) 2026/1744, und EUR-Lex veröffentlicht außerdem konsolidierte Fassungen, die Änderungen in den ursprünglichen Text einarbeiten.
Fazit
Die KI-Verordnung der EU regelt KI nach Risiko: Eine kurze Liste von Praktiken ist verboten, Hochrisiko-Systeme in Personalauswahl, Kreditvergabe, Bildung und ähnlichen Bereichen müssen strenge Anforderungen erfüllen, Chatbots und erzeugte Inhalte müssen offengelegt werden, und Modelle mit allgemeinem Verwendungszweck müssen ihr Training dokumentieren. Sie erfasst auch Unternehmen außerhalb der EU, sobald deren KI dort genutzt wird. Die meisten Regeln gelten bereits, die Hochrisiko-Regeln greifen ab dem 2. Dezember 2027 und dem 2. August 2028; ordnen Sie jede KI-Funktion ihrer Risikostufe und Ihrer Rolle zu, und holen Sie für Entscheidungen, die davon abhängen, rechtlichen Rat ein.




