EU AI Act — die KI-Verordnung der EU
Das erste umfassende KI-Gesetz der EU: Das Risiko entscheidet über die Regeln — von verbotenen Praktiken bis zu Bußgeldern in Milliardenhöhe.
Gesetzestext lesenAuf dieser Seite · 16
In 60 Sekunden
- Worum geht es?
- Der AI Act ist das erste umfassende KI-Gesetz der EU. Es teilt KI-Systeme nach Risiko in Klassen ein und knüpft daran abgestufte Pflichten — von „verboten” bis „kaum reguliert”.
- Wichtigste Änderung
- Bestimmte KI-Praktiken sind verboten, Hochrisiko-KI bekommt strenge Auflagen, und es gilt erstmals europaweit dasselbe Regelwerk. Wichtig: Die Verordnung gilt, aber nicht jeder Teil schon — vieles greift erst gestaffelt bis 2026/2027.
- Wer ist betroffen?
- Vor allem Anbieter und Betreiber von KI in der EU — von Start-ups bis Konzernen — sowie Behörden. Mittelbar profitieren alle Menschen von Schutzregeln und neuen Rechten (z. B. Beschwerde, Kennzeichnung von KI-Inhalten).
Die Zusammenfassung
Mit dem AI Act gibt sich die EU als erste große Rechtsordnung ein umfassendes, horizontales Regelwerk speziell für Künstliche Intelligenz. Es ist eine EU-Verordnung und gilt damit unmittelbar in allen Mitgliedstaaten — anders als bei einer Richtlinie braucht es keine nationale Umsetzung. Statt jede Technologie gleich zu behandeln, ordnet das Gesetz KI nach ihrem Risiko ein: Je größer die Gefahr für Sicherheit, Gesundheit oder Grundrechte, desto strenger die Pflichten. Anwendungen mit unannehmbarem Risiko sind verboten, Hochrisiko-Anwendungen streng reguliert, der große Rest bleibt weitgehend frei. [1][10]
Bei den verbotenen Praktiken (Art. 5) geht das Gesetz am weitesten: untersagt sind unter anderem manipulative Systeme, das Ausnutzen von Verletzlichkeiten, Social Scoring, bestimmtes „Predictive Policing” allein auf Profiling-Basis, das ungezielte Abgreifen von Gesichtsbildern für Datenbanken, Emotionserkennung in Schule und am Arbeitsplatz sowie bestimmte biometrische Kategorisierung. Auch die biometrische Echtzeit-Fernidentifikation im öffentlichen Raum für die Strafverfolgung ist grundsätzlich verboten — allerdings mit eng definierten Ausnahmen, an denen sich ein Teil der Kritik entzündet. [2][29]
Hochrisiko-KI wird über Artikel 6 auf zwei Wegen bestimmt: erstens als Sicherheitskomponente oder Produkt unter bestehendem EU-Produktrecht (Anhang I), zweitens über sensible Einsatzfelder aus Anhang III (etwa Bildung, Beschäftigung, kritische Infrastruktur, Strafverfolgung, Migration oder Justiz). Wichtig ist die Ausnahme nach Art. 6 Abs. 3: Nicht jede KI in einem sensiblen Feld ist automatisch Hochrisiko. Für echte Hochrisiko-Systeme gelten Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, menschliche Aufsicht, Konformitätsbewertung und CE-Kennzeichnung; öffentliche Betreiber müssen teils eine Grundrechts-Folgenabschätzung erstellen. [4][11]
Für KI-Modelle mit allgemeinem Verwendungszweck (GPAI) — etwa große Sprachmodelle — gibt es ein eigenes Kapitel: technische Dokumentation, Informationen für nachgelagerte Anbieter, eine Urheberrechts-Policy und eine öffentliche Zusammenfassung der Trainingsinhalte. Für Modelle mit „systemischem Risiko” kommen Evaluierung, Risikominderung und Cybersicherheit hinzu. Primäradressat ist der Modell-Anbieter — nicht jeder einzelne Nutzer eines Chatbots. Für Modelle, die vor dem 02.08.2025 auf dem Markt waren, läuft eine Übergangsfrist bis 02.08.2027. [6][12]
Die Transparenzpflichten (Art. 50) trennen Anbieter und Betreiber: Anbieter generativer Systeme müssen Ausgaben maschinenlesbar markieren; Betreiber müssen über KI-Interaktion, Emotionserkennung oder biometrische Kategorisierung informieren und Deepfakes offenlegen. Für KI-Texte zu Themen öffentlichen Interesses gilt eine Kennzeichnungspflicht — mit Ausnahmen, etwa bei redaktioneller Verantwortung. Ein freiwilliger Praxis-Kodex (Juni 2026) und Entwurfsleitlinien sollen die Umsetzung erleichtern, sind aber noch nicht final. [5][14][15]
Durchgesetzt wird der AI Act mit gestaffelten Bußgeldern (Art. 99): bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes bei verbotenen Praktiken, bis zu 15 Mio. € oder 3 % bei den meisten anderen Pflichten und bis zu 7,5 Mio. € oder 1 % bei falschen Angaben; für KMU und Start-ups gilt jeweils der niedrigere Betrag. Überwacht wird auf zwei Ebenen: das AI Office und weitere Gremien auf EU-Seite, nationale Marktüberwachungsbehörden im Mitgliedstaat. Bürgerinnen und Bürger können sich dort beschweren (Art. 85) und haben in bestimmten Fällen ein Recht auf Erklärung (Art. 86). [3][7][11]
Wichtig für die Einordnung: Es gilt heute der Rechtsstand der Verordnung — aber ein Teil der öffentlich genannten Fristen beruht nur auf einer politischen Einigung zum „Digital Omnibus” (07.05.2026). Danach sollen Hochrisiko-Regeln später greifen (02.12.2027 bzw. 02.08.2028), die Markierungsfrist für ältere generative Systeme auf den 02.12.2026 rücken und ein neues Verbot gegen KI zur Erzeugung nicht-einvernehmlicher sexualisierter Darstellungen und von Darstellungen sexuellen Kindesmissbrauchs (CSAM) hinzukommen. Mitte Juni 2026 war dieser Omnibus aber noch nicht förmlich angenommen und im Amtsblatt veröffentlicht — er ist also voraussichtliche, nicht geltende Rechtslage. [23][19]
Ob die Balance stimmt, ist umstritten — und zwar aus zwei Richtungen: Teile der Wirtschaft warnen vor Bürokratie, fehlender Standardreife und Nachteilen für kleine Anbieter, während Verbraucher- und Bürgerrechtsorganisationen den Schutz vor biometrischer Massenüberwachung für zu schwach halten und vor einer Aufweichung durch den Omnibus warnen. Genau diese Spannung macht den AI Act zu einem Lehrstück dafür, wie schwer Technologieregulierung auszutarieren ist. [25][28][30]
Zeitlicher Verlauf
Europäisches Parlament nimmt den AI Act an [20]
Schlussabstimmung im Plenum: 523 dafür, 46 dagegen, 49 Enthaltungen — eine breite, fraktionsübergreifende Mehrheit.
Rat gibt grünes Licht [22]
Der Rat der EU erteilt am 21.05.2024 die endgültige Zustimmung.
Veröffentlichung im Amtsblatt der EU [1]
Verordnung (EU) 2024/1689 wird im Amtsblatt veröffentlicht — Startschuss für die Fristen.
Kommission schlägt „Digital Omnibus” vor [24]
Vorschlag COM(2025) 836 zur Vereinfachung: Hochrisiko-Regeln sollen an verfügbare Standards gekoppelt und Fristen entlastet werden.
Politische Einigung zum Digital Omnibus [23]
Rat und Parlament einigen sich vorläufig — u. a. auf spätere Hochrisiko-Fristen und ein neues Verbot zu CSAM/nicht-einvernehmlichen Inhalten. Noch nicht förmlich angenommen.
Praxis-Kodex zur Kennzeichnung veröffentlicht [15]
Die Kommission veröffentlicht den freiwilligen Code of Practice zur Markierung KI-generierter Inhalte; Mitte Juni 2026 noch in der Angemessenheitsprüfung.
Geplant (Omnibus): Markierungsfrist für ältere Systeme [23]
Nach der politischen Einigung soll die Markierungspflicht für bereits vermarktete generative Systeme ab diesem Datum greifen. Hängt an der förmlichen Annahme des Omnibus.
Geplant (Omnibus): Hochrisiko-Regeln für regulierte Produkte [23]
Für Hochrisiko-KI, die in regulierte Produkte eingebettet ist, sieht die politische Einigung eine längere Frist bis August 2028 vor.
Was steht wirklich drin?
Risikobasierter Ansatz [1][10]
KI wird in vier Stufen eingeteilt: unannehmbares Risiko (verboten), hohes Risiko (strenge Auflagen), begrenztes Risiko (Transparenzpflichten) und minimales Risiko (keine besonderen Pflichten).
Verbotene Praktiken (Art. 5) [2]
Manche Anwendungen sind grundsätzlich verboten — etwa Social Scoring durch Behörden, manipulative Systeme, Emotionserkennung in Schule und Arbeit sowie das ungezielte Sammeln von Gesichtsbildern. Biometrische Echtzeit-Überwachung im öffentlichen Raum ist nur mit engen Ausnahmen erlaubt.
Pflichten für Hochrisiko-KI (Art. 6) [4]
KI in sensiblen Bereichen (z. B. Medizin, Personalauswahl, kritische Infrastruktur) braucht Risikomanagement, gute Daten, menschliche Aufsicht und Dokumentation. Aber nicht jede KI in einem sensiblen Feld ist automatisch Hochrisiko — es gibt eine Ausnahme (Art. 6 Abs. 3).
Transparenz bei KI-Kontakt und KI-Inhalten (Art. 50) [5]
Bei direktem Kontakt muss erkennbar sein, dass man mit einer KI spricht. Künstlich erzeugte oder manipulierte Inhalte („Deepfakes”) müssen gekennzeichnet werden — mit einigen Ausnahmen.
Eigene Regeln für KI mit allgemeinem Verwendungszweck (GPAI) [6]
Modelle wie große Sprachmodelle müssen Dokumentation bereitstellen, nachgelagerte Anbieter informieren und das EU-Urheberrecht beachten. Für besonders leistungsfähige Modelle (mit „systemischem Risiko”) gelten zusätzliche Pflichten.
Neue Rechte für Betroffene (Art. 85/86) [7]
Wer betroffen ist, kann sich bei der zuständigen Behörde beschweren (Art. 85). In bestimmten Hochrisiko-Fällen gibt es ein Recht auf Erklärung, wie eine KI-gestützte Entscheidung zustande kam (Art. 86).
Bußgelder (Art. 99) [3]
Gestaffelt nach Verstoß: bis 35 Mio. € oder 7 % des weltweiten Jahresumsatzes bei verbotenen Praktiken, bis 15 Mio. € oder 3 % bei den meisten anderen Pflichten, bis 7,5 Mio. € oder 1 % bei falschen Angaben. Für KMU und Start-ups gilt der jeweils niedrigere Betrag.
Geltendes Recht vs. „Digital Omnibus” (noch nicht final) [23][19]
Es gilt der heutige Rechtsstand der Verordnung. Mehrere viel zitierte spätere Fristen (Hochrisiko 2027/2028, Markierung 2026) und ein neues CSAM-Verbot beruhen aber nur auf einer politischen Einigung — sie sind noch nicht förmlich angenommen und damit noch nicht geltendes Recht.
Vorher / Nachher
Regulierung von KI [1][22]
Kein eigenes KI-Gesetz; KI fiel unter allgemeine Regeln (z. B. Datenschutz, Produkthaftung).
Eigener, unionsweit einheitlicher Rechtsrahmen mit Risikoklassen und konkreten Pflichten je nach Anwendung.
Verbotene Anwendungen [2]
Keine ausdrücklichen KI-spezifischen Verbote.
Klare Liste verbotener Praktiken (Art. 5), die EU-weit untersagt sind.
Transparenz bei KI-Kontakt [5]
Keine allgemeine Pflicht, KI-Interaktionen oder KI-Inhalte als solche kenntlich zu machen.
Chatbots müssen sich zu erkennen geben, „Deepfakes” und bestimmte KI-Inhalte sind kennzeichnungspflichtig.
Rechte der Betroffenen [7]
Kein KI-spezifisches Beschwerde- oder Erklärungsrecht gegenüber automatisierten Entscheidungen.
Beschwerderecht bei der Marktüberwachungsbehörde (Art. 85) und in bestimmten Fällen ein Recht auf Erklärung (Art. 86).
Fristen für Hochrisiko-KI [8][23]
Nach geltendem Recht: Anhang-III-Hochrisiko ab 02.08.2026, Art.-6-Abs.-1-Systeme ab 02.08.2027.
Nach der politischen Einigung zum Digital Omnibus sollen wichtige Hochrisiko-Pflichten auf 02.12.2027 bzw. 02.08.2028 verschoben werden — sofern der Omnibus förmlich angenommen wird.
Auswirkungen
Direkte Folgen
Wahrscheinliche Folgen
Umstrittene Folgen
- Ob das Schutzniveau vor biometrischer Massenüberwachung und in Strafverfolgung/Migration ausreicht — Bürgerrechtsorganisationen sehen Lücken in den Ausnahmen. [29][30]
- Ob die Omnibus-Verschiebungen notwendige Entlastung oder eine Aufweichung des Schutzniveaus sind — Verbraucher- und Industrieseite ziehen hier in entgegengesetzte Richtungen. [28][26]
Betroffene Gruppen
KI-Anbieter (Hersteller von Systemen/Modellen)
stark betroffenAm stärksten adressiert: Klassifizierung, Dokumentation, Risikomanagement, Kennzeichnung und — bei GPAI — Urheberrechts-Policy und Trainingsdaten-Zusammenfassung. [4][6]
KI-Betreiber (professionelle Nutzer/„Deployer”)
stark betroffenMüssen Protokolle führen, Betroffene informieren, teils registrieren und — bei öffentlichkeitsnahen Hochrisiko-Einsätzen — eine Grundrechts-Folgenabschätzung erstellen. Hängt stark vom Einsatzkontext ab. [5][11]
Start-ups und KMU
mittel betroffenSollen durch Sandboxes, Leitfäden und mildere Sanktionslogik entlastet werden; tragen den Aufwand aber mit weniger Ressourcen — zentraler Kritikpunkt der Wirtschaft. [25][17]
Behörden und öffentliche Stellen
stark betroffenDürfen bestimmte Praktiken (z. B. Social Scoring) nicht einsetzen und müssen bei Hochrisiko-KI registrieren und teils Grundrechts-Folgen prüfen; für Bestandssysteme gilt teils eine Frist bis 2030 (Art. 111). [9][11]
Bürgerinnen und Bürger
mittel betroffenProfitieren von Verboten, Kennzeichnung, Beschwerderecht (Art. 85) und Recht auf Erklärung (Art. 86) — wie weit der Schutz reicht, hängt aber vom Einsatzbereich und von Ausnahmen ab. [7][29]
Pro & Contra
Dafür
Klare, risikobasierte Regeln schaffen Rechtssicherheit, einen einheitlichen Binnenmarkt und vertrauenswürdige KI bei gleichzeitigem Grundrechtsschutz. [10][22]
Position von: Europäische Kommission / Rat · mittel belegt
Gegenargument: Ein einheitlicher Rahmen nützt wenig, wenn Standards, Leitlinien und Behördenstrukturen zu spät kommen und so neue Rechtsunsicherheit entsteht.
Den AI Act kurz nach Inkrafttreten zu verzögern oder wieder aufzuschnüren, gefährdet Schutzstandards, Vertrauen und Rechtssicherheit. [28][26]
Position von: Verbraucherschutz (BEUC u. a.) · mittel belegt
Gegenargument: Die Industrie verweist auf reale Umsetzungsprobleme und unvollständige Standards, die eine Entlastung rechtfertigten.
Dagegen
Die Pflichten schaffen Bürokratie und Doppelregulierung und bremsen Innovation — besonders für Start-ups und KMU. [25][3]
Position von: Industrieposition (Bitkom e. V.) · mittel belegt
Gegenargument: Der Gesetzgeber sieht abgestufte Pflichten, Sandboxes und Erleichterungen für kleine Anbieter vor (z. B. niedrigere Bußgelder).
Fehlende Standardreife und laufende Compliance-Kosten verursachen Rechtsunsicherheit und Innovationsnachteile. [26][27][23]
Position von: Industrieposition (DIGITALEUROPE, CCIA) · schwach belegt
Gegenargument: Gerade die Omnibus-Einigung koppelt die Hochrisiko-Anwendbarkeit an Standards und Support-Tools und reagiert damit auf diese Kritik; die Kostenschätzungen sind interessengeleitet.
Der AI Act schützt nicht ausreichend vor biometrischer Massenüberwachung — bei Strafverfolgung und Migration bleiben gefährliche Ausnahmen. [29][30]
Position von: Digitalrechte/NGO (EDRi, Access Now) · mittel belegt
Gegenargument: Der AI Act verbietet mehrere biometrische Praktiken erstmals ausdrücklich und knüpft die Echtzeit-Ausnahmen an enge Voraussetzungen (Autorisierung, Folgenabschätzung, Registereintrag).
Abstimmungsergebnis
Europäisches Parlament (Plenum), 13.03.2024 · Namentliche Abstimmung [20][21][31]
Fraktionsstärke und Mehrheitsrichtung
- EVP (Christdemokraten)153Dafür
- S&D (Sozialdemokraten)129Dafür
- Renew Europe (Liberale)80Dafür
- Grüne/EFA58Dafür
- ID (Rechtsfraktion)41Dafür
- EKR/ECR (Konservative)38Dafür
- Die Linke (GUE/NGL)21Dagegen
- Fraktionslos20Dafür
Zwei getrennte Größen: oben das amtliche Abstimmungsergebnis, darunter die Fraktionsstärke mit der Mehrheitsrichtung der jeweiligen Fraktion. Die Summen unterscheiden sich, weil nicht alle Abgeordneten teilnahmen und einzelne von ihrer Fraktion abwichen; die Einzelstimmen stehen in den verlinkten Quellen.
Stimmbegründungen
- EVP (Christdemokraten)Dafür
Die EVP-Linie verbindet Zustimmung zu vertrauenswürdiger, wertebasierter KI mit Innovations- und Wettbewerbsfähigkeit: Europa solle globale Standards setzen, ohne Investitionen und technologische Führungsfähigkeit auszubremsen.
- Die EVP befürwortete einen europäischen Rahmen für vertrauenswürdige und wertebasierte KI. [20][32]
- Europa solle bei globalen KI-Standards mitgestalten und zugleich Innovations- und Wettbewerbsfähigkeit sichern. [32]
- Ethik, Transparenz und Haftungsregeln wurden als Voraussetzungen genannt, um gesellschaftliches Vertrauen in KI zu stärken. [32]
- S&D (Sozialdemokraten)Dafür
S&D begründete die Zustimmung vor allem mit Grundrechtsschutz: Verbote problematischer biometrischer und manipulativer Anwendungen, Schutz von Beschäftigten sowie Kennzeichnung und Erklärbarkeit von KI sollten verbindlich werden.
- S&D stellte den Schutz von Grundrechten in den Mittelpunkt der Zustimmung. [33]
- Als Erfolge wurden Verbote bzw. Grenzen für prädiktive Kriminalitätsprognosen, biometrische Ableitungen und Emotionserkennung in Arbeit und Bildung hervorgehoben. [33]
- Außerdem sollten Beschäftigte, Gewerkschaften und Bürgerinnen durch Informationspflichten, Kennzeichnung, Erklärungsrechte und kollektiven Rechtsschutz gestärkt werden. [33]
- Renew Europe (Liberale)Dafür
Renew stimmte zu, weil der Act aus ihrer Sicht Grundrechte, Demokratie und Rechtsstaat vor Hochrisiko-KI schützt und zugleich Innovation über klare Regeln, Sandboxes und KMU-Erleichterungen ermöglicht.
- Renew sah im AI Act einen Rahmen, der KI an europäische Grundwerte bindet und Menschen Kontrolle über Technologie sichern soll. [20][34]
- Hochrisiko-KI sollte durch klare Pflichten, Governance und Durchsetzung reguliert werden. [34]
- Gleichzeitig wurden Innovationsinstrumente wie Sandboxes, KMU-Erleichterungen und eine international anschlussfähige KI-Definition betont. [34]
- Grüne/EFADafür
Grüne/EFA unterstützten den Act als Schritt zu menschenzentrierter KI-Governance mit Schutz von Grundrechten, Demokratie und Umwelt, hielten einzelne Schutzmechanismen wie Gesichtserkennung aber weiterhin für zu schwach.
- Grüne/EFA hoben den menschenzentrierten Ansatz mit Grundrechten, demokratischen Prinzipien und Umweltpflichten hervor. [35]
- Sie verwiesen auf Verbote besonders problematischer Praktiken wie bestimmte Formen von Emotionserkennung, Predictive Policing und Kategorisierung. [35]
- Zugleich kritisierten sie, dass der Schutz gegen Gesichtserkennung aus ihrer Sicht noch robuster hätte sein müssen. [35]
- ID (Rechtsfraktion)Dafür
Für die ID-Fraktion ist im vorhandenen Quellenbestand keine gemeinsame ausführliche Fraktionsbegründung belegt; die namentliche Auswertung zeigt aber eine mehrheitliche Zustimmung zum finalen Kompromiss.
- Die namentliche Auswertung belegt, dass die ID-Fraktion mehrheitlich für den finalen Kompromiss stimmte. [31]
- Eine belastbare gemeinsame Fraktionsbegründung ist im Quellenbestand dieses Dossiers nicht nachgewiesen. [31]
Die Aussage erklärt daher vor allem die dokumentierte Abstimmungsrichtung, nicht eine einheitliche offizielle Motivation der gesamten Fraktion.
- EKR/ECR (Konservative)Dafür
ECR unterstützte den Kompromiss als Rechtsrahmen für Verbrauchersicherheit und Menschenrechtsschutz, hob aber besonders KMU-Hilfen und regulatorische Sandboxes hervor und blieb bei Echtzeit-Identifikation im öffentlichen Raum skeptisch.
- ECR erkannte Bedarf für einen Rechtsrahmen an, der KI nach Schadenspotenzial reguliert und Verbrauchersicherheit sowie Menschenrechtsschutz sichern soll. [36]
- Als eigene Schwerpunkte wurden KMU-Unterstützung und regulatorische Sandboxes genannt. [36]
- Skepsis blieb bei Echtzeit-Identifikation im öffentlichen Raum, weil ECR Eingriffe in die Privatsphäre Unbeteiligter befürchtete. [36]
- Die Linke (GUE/NGL)Dagegen
Die Linke lehnte ab, weil ihr der Text nicht ambitioniert genug war: zu viele Ausnahmen für nationale Sicherheit und Strafverfolgung, zu viel Spielraum für Unternehmen und zu schwacher Schutz vor biometrischer Überwachung.
- Die Linke kritisierte, der finale Text priorisiere Big-Tech-Interessen stärker als Bürgerinnen- und Verbraucherschutz. [37]
- Sie sah zu viele Ausnahmen für nationale Sicherheit und Strafverfolgung, besonders bei biometrischer Identifikation. [37]
- Außerdem kritisierte sie, dass Unternehmen Hochrisiko-Einstufungen teils selbst bewerten und riskante Systeme real erproben können. [37]
- FraktionslosDafür
Bei fraktionslosen Abgeordneten gibt es keine gemeinsame Fraktionslinie; belegt ist hier die Mehrheit der abgegebenen Stimmen in der namentlichen Auswertung.
- Fraktionslose Abgeordnete bilden keine gemeinsame politische Gruppe mit einheitlicher offizieller Begründung. [31]
- Die namentliche Auswertung belegt nur die mehrheitliche Stimmrichtung der fraktionslosen Abgeordneten. [31]
Für individuelle Motive wären einzelne Erklärungen der jeweiligen Abgeordneten nötig.
Häufige Fragen
Gilt der AI Act schon?
Ja, aber nicht vollständig. Er ist seit August 2024 in Kraft. Verbote gelten seit Februar 2025, GPAI-Pflichten seit August 2025, weitere Pflichten folgen gestaffelt 2026 und 2027. [8][1]
Betrifft mich der AI Act privat?
Im rein privaten Gebrauch treffen dich die Pflichten in der Regel nicht. Sobald du KI aber als Unternehmen, Behörde, Schule oder Arbeitgeber einsetzt oder anbietest, kann das Gesetz greifen. Als normale Nutzerin oder Nutzer profitierst du vor allem von den Schutzregeln. [7]
Was ist „Hochrisiko-KI”?
KI in sensiblen Bereichen wie Medizin, Personalauswahl oder kritischer Infrastruktur. Aber nicht jede KI dort ist automatisch Hochrisiko — es kommt auf den konkreten Fall an (Art. 6). [4]
Was bedeutet das für ChatGPT und ähnliche Modelle?
Solche Modelle gelten als KI mit allgemeinem Verwendungszweck (GPAI). Pflichten treffen vor allem den Anbieter des Modells — etwa Dokumentation und Beachtung des EU-Urheberrechts. Nicht jeder einzelne Nutzer wird dadurch zum „GPAI-Anbieter”. [6]
Muss KI-generierter Inhalt gekennzeichnet werden?
Teilweise ja. Anbieter müssen generierte Inhalte maschinenlesbar markieren; Deepfakes und bestimmte KI-Texte zu öffentlichen Themen müssen offengelegt werden. Es gibt aber Ausnahmen, etwa bei redaktioneller Verantwortung. [5][15]
Was passiert bei Verstößen?
Es drohen gestaffelte Bußgelder — bis zu 35 Mio. € oder 7 % des weltweiten Jahresumsatzes bei verbotenen Praktiken, weniger bei anderen Verstößen. [3]
Warum stehen bei Hochrisiko-KI jetzt 2027 und 2028?
Das ist der „Digital Omnibus”: Rat und Parlament haben sich politisch darauf geeinigt, bestimmte Hochrisiko-Regeln später greifen zu lassen (02.12.2027 bzw. 02.08.2028). Mitte 2026 war das aber noch nicht endgültig beschlossen — bis dahin gelten die ursprünglichen Fristen. [23][8]
Quellen
- [1]Verordnung (EU) 2024/1689 (KI-Verordnung / AI Act) — konsolidierter Volltext — Amt für Veröffentlichungen der EU (EUR-Lex), Verordnung (EU) 2024/1689, ABl. L vom 12.7.2024 ↩
- [2]Verordnung (EU) 2024/1689 — Artikel 5: Verbotene KI-Praktiken — Amt für Veröffentlichungen der EU (EUR-Lex), Art. 5 ↩
- [3]Verordnung (EU) 2024/1689 — Artikel 99: Sanktionen (Bußgelder) — Amt für Veröffentlichungen der EU (EUR-Lex), Art. 99 ↩
- [4]AI Act Service Desk — Artikel 6: Einstufung von Hochrisiko-KI — Europäische Kommission (AI Act Service Desk) ↩
- [5]AI Act Service Desk — Artikel 50: Transparenzpflichten — Europäische Kommission (AI Act Service Desk) ↩
- [6]AI Act Service Desk — Artikel 53/55: Pflichten für GPAI-Modelle — Europäische Kommission (AI Act Service Desk) ↩
- [7]AI Act Service Desk — Artikel 85/86: Beschwerderecht & Recht auf Erklärung — Europäische Kommission (AI Act Service Desk) ↩
- [8]AI Act Service Desk — Artikel 113: Inkrafttreten und Anwendung — Europäische Kommission (AI Act Service Desk) ↩
- [9]AI Act Service Desk — Artikel 111: Übergangsrecht für Bestandssysteme — Europäische Kommission (AI Act Service Desk) ↩
- [10]Ein europäischer Ansatz für künstliche Intelligenz — Europäische Kommission (Shaping Europe's digital future) ↩
- [11]Governance and enforcement of the AI Act — Europäische Kommission (Shaping Europe's digital future) ↩
- [12]Guidelines for providers of general-purpose AI models — Europäische Kommission (Shaping Europe's digital future) ↩
- [13]Guidelines for providers and deployers of high-risk AI systems (Entwurf) — Europäische Kommission (Shaping Europe's digital future) ↩
- [14]Draft guidelines on transparency obligations under Article 50 of the AI Act (Entwurf) — Europäische Kommission (Shaping Europe's digital future) ↩
- [15]Code of Practice on Transparency of AI-Generated Content — Europäische Kommission / AI Office ↩
- [16]Targeted consultation on draft guidelines for classifying high-risk AI systems — Europäische Kommission (Shaping Europe's digital future) ↩
- [17]AI Act standardisation — Europäische Kommission (Shaping Europe's digital future) ↩
- [18]Market Surveillance Authorities under the AI Act — Europäische Kommission (Shaping Europe's digital future) ↩
- [19]Report on the review of prohibitions and high-risk AI (Art. 112) — Europäische Kommission (Shaping Europe's digital future) ↩
- [20]Artificial Intelligence Act: MEPs adopt landmark law — Europäisches Parlament (Pressedienst) ↩
- [21]Ergebnisse der namentlichen Abstimmungen des Europäischen Parlaments (Sitzung 13.03.2024) — Europäisches Parlament, Protokoll-Anlage „Ergebnisse der namentlichen Abstimmungen”, 13.03.2024 ↩
- [22]Artificial intelligence act: Council gives final green light to the first worldwide rules on AI — Rat der Europäischen Union ↩
- [23]Digital Omnibus / AI Act: Council and Parliament agree to simplify and streamline rules — Rat der Europäischen Union ↩
- [24]Vorschlag der Kommission zur Vereinfachung des AI Act (Digital Omnibus), COM(2025) 836 — Amt für Veröffentlichungen der EU (EUR-Lex) ↩
- [25]Bitkom zum Inkrafttreten des AI Acts — Bitkom e. V. ↩
- [26]AI in healthcare — position paper — DIGITALEUROPE ↩
- [27]Costs to companies from EU digital regulation (Studie) — Computer & Communications Industry Association (CCIA) ↩
- [28]Open Joint Letter against the Delaying and Reopening of the AI Act — BEUC und mitunterzeichnende Organisationen ↩
- [29]How to fight Biometric Mass Surveillance after the AI Act — legal & practical guide — European Digital Rights (EDRi) ↩
- [30]The EU AI Act: a failure for human rights, a victory for industry and law enforcement — Access Now ↩
- [31]EU AI Act — namentliche Schlussabstimmung, Auswertung nach Fraktionen (Vote 166051) — HowTheyVote.eu ↩
- [32]Artificial Intelligence in the digital era — EPP Group in the European Parliament, EPP-Themenseite zu AI in the digital era ↩
- [33]World's first-ever regulation on Artificial Intelligence becomes a reality, thanks to S&Ds — Socialists & Democrats Group, S&D-Pressemitteilung zur Plenarabstimmung ↩
- [34]AI Act: Parliament approves landmark deal for world's first horizontal AI laws — Renew Europe Group, Renew-Europe-Pressemitteilung zur Plenarabstimmung ↩
- [35]AI Act: Greens/EFA Group welcomes historic step towards ethical AI governance — Greens/EFA Group, Greens/EFA-Pressemitteilung zur Plenarabstimmung ↩
- [36]Week Ahead 11 - 15 March 2024 — European Conservatives and Reformists Group, Abschnitt 'A landmark set of rules for Artificial Intelligence' ↩
- [37]AI Act: Big Tech says 'jump', EU asks 'how high?' — The Left in the European Parliament, The-Left-Pressemitteilung zur Plenarabstimmung ↩
Was kann ich tun?
Offiziellen Leitfaden lesen
Die Europäische Kommission erklärt Ziele, Zeitplan und Pflichten — der „AI Act Service Desk” beantwortet konkrete Fragen artikelweise.
Den Rechtstext nachschlagen
Der konsolidierte Volltext der Verordnung (EU) 2024/1689 ist über EUR-Lex frei zugänglich.
Bei den Hochrisiko-Leitlinien mitreden
Die Kommission sammelt bis 23.07.2026 Feedback zur Einordnung von Hochrisiko-KI.
Sich beschweren, wenn KI Rechte verletzt
Nach Art. 85 kann jede betroffene Person Beschwerde bei der zuständigen Marktüberwachungsbehörde einreichen.
Glossar
- GPAI
- „General-Purpose AI” — KI-Modelle mit allgemeinem Verwendungszweck, etwa große Sprachmodelle, die für viele Aufgaben einsetzbar sind. Für besonders leistungsfähige Modelle gilt der Zusatz „mit systemischem Risiko”.
- Hochrisiko-KI
- KI-Systeme nach Art. 6 — entweder Sicherheitskomponenten regulierter Produkte (Anhang I) oder sensible Anwendungsfälle aus Anhang III. Eine Ausnahme (Art. 6 Abs. 3) kann die Einstufung entfallen lassen.
- Anbieter vs. Betreiber
- Anbieter („provider”) entwickeln oder vermarkten ein KI-System; Betreiber („deployer”) setzen es im beruflichen Kontext ein. Der AI Act verteilt die Pflichten unterschiedlich auf beide.
- Digital Omnibus
- Ein EU-Vorhaben zur Vereinfachung digitaler Regeln. Beim AI Act soll es nach politischer Einigung (Mai 2026) u. a. Hochrisiko-Fristen auf 2027/2028 verschieben — Mitte 2026 aber noch nicht förmlich beschlossen.
- Artikel 50
- Der Teil des AI Act, der Transparenzpflichten regelt — Hinweise bei KI-Interaktion, Markierung generierter Inhalte, Offenlegung von Deepfakes und KI-Texten zu öffentlichen Themen.
- Anhang III
- Liste besonders sensibler Einsatzbereiche, in denen KI als Hochrisiko-KI gelten kann — etwa Beschäftigung, Bildung, Strafverfolgung, Migration oder Justiz.
- AI Office
- Die Stelle innerhalb der EU-Kommission, die die Anwendung des AI Act bündelt, Leitlinien und Kodizes vorbereitet und vor allem GPAI-Modelle beaufsichtigt.
Korrekturen & Aktualisierungen
Bisher keine Korrekturen oder Aktualisierungen an diesem Dossier.
Fehler melden
Etwas falsch, veraltet oder unklar? Sag uns Bescheid — am besten mit Quelle oder Beleg, damit wir die Korrektur prüfen können. Belegte Korrekturen halten wir im Dossier sichtbar fest.
Hinweis per E-Mail senden