EU-KI-Verordnung nach Zielgruppen und Rollen

Nutzt du KI ausschließlich privat, bist du kein Betreiber: Die Begriffsbestimmung nimmt die Verwendung im Rahmen einer persönlichen, nicht beruflichen Tätigkeit ausdrücklich aus.

Ausgenommen sind dabei nur die Pflichten von Betreibern. Die Verordnung gilt weiter für Anbieter und berufliche Betreiber der Systeme, denen du begegnest - viele ihrer Vorschriften schützen gerade dich.

Setzen Eltern ein KI-Angebot privat für die Familie ein, ist das ebenfalls eine persönliche, nicht berufliche Tätigkeit. Kinder und Eltern werden dadurch nicht zu Betreibern.

Verboten sind KI-Systeme, die Schwächen einer Person oder Gruppe aufgrund ihres Alters, einer Behinderung oder einer besonderen sozialen oder wirtschaftlichen Lage ausnutzen und dadurch ihr Verhalten wesentlich verzerren - wenn dies erheblichen Schaden verursacht oder hinreichend wahrscheinlich verursacht. Das Alter ist damit ausdrücklich ein Schutzmerkmal, gerade für Kinder.

Ebenfalls verboten sind unterschwellige, absichtlich manipulative oder täuschende Techniken, die die Fähigkeit zu einer informierten Entscheidung spürbar beeinträchtigen und dadurch erheblichen Schaden verursachen oder hinreichend wahrscheinlich verursachen.

Neu und erst ab 02.12.2026: Verboten werden KI-Systeme, die ohne ausdrückliche Einwilligung realistische intime oder sexuell explizite Darstellungen einer identifizierbaren Person erzeugen oder manipulieren (lit. ba), sowie Systeme, die Material im Sinne von Art. 2 lit. c und e der Richtlinie 2011/93/EU zum sexuellen Missbrauch von Kindern erzeugen oder manipulieren (lit. bb).

Anbieter müssen KI-Systeme, die direkt mit Menschen interagieren, so gestalten, dass du erfährst, dass du mit einer KI interagierst - außer das ist für eine verständige Person aus den Umständen offensichtlich.

Wer beruflich Deepfakes verwendet, muss den künstlich erzeugten oder manipulierten Inhalt offenlegen. Deepfakes sind Bild-, Audio- oder Videoinhalte, die bestehenden Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen ähneln und fälschlich echt oder wahrhaftig erscheinen. Nicht jedes erzeugte Medium ist ein Deepfake. Die Information muss spätestens bei der ersten Interaktion oder Konfrontation klar erkennbar sein.

Jede natürliche oder juristische Person, die Gründe für die Annahme eines Verstoßes gegen die Verordnung hat, kann bei der zuständigen Marktüberwachungsbehörde Beschwerde einreichen.

Die Verwendung eines Systems nach lit. ba oder bb ist nur verboten, wenn der Betreiber es gerade zum Erzeugen oder Manipulieren solchen Materials einsetzt. Bei lit. bb bleibt eine nach nationalem Recht anerkannte Rechtfertigung („without right“-Verteidigung) unberührt.

Eine Bearbeitung, die die Sichtbarkeit intimer Körperteile nicht erhöht und die Art sexuell expliziter Handlungen nicht verändert, gilt nicht als Manipulation im Sinne von lit. ba.

Sobald du ein KI-System beruflich in eigener Verantwortung verwendest, bist du Betreiber - auch als Einzelperson. Die Ausnahme für persönliche, nicht berufliche Tätigkeit greift dann nicht.

Entwickelst du ein KI-System oder lässt es entwickeln und bringst es unter eigenem Namen oder eigener Marke in Verkehr oder nimmst es in Betrieb - entgeltlich oder unentgeltlich -, bist du Anbieter.

Anbieter und Betreiber ergreifen Maßnahmen zur Unterstützung der KI-Kompetenzentwicklung ihres Personals und anderer Personen, die in ihrem Auftrag mit Betrieb und Nutzung der Systeme befasst sind - unter Berücksichtigung von Vorwissen, Erfahrung, Ausbildung, Einsatzkontext und betroffenen Personen. Ein bestimmtes individuelles Kompetenzniveau muss nicht garantiert werden; ein bestimmter Kurs oder ein Zertifikat ist nicht vorgeschrieben.

Als Betreiber musst du Deepfakes offenlegen. Bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Werken beschränkt sich die Pflicht darauf, das Vorhandensein erzeugter oder manipulierter Inhalte in geeigneter Weise offenzulegen, ohne die Darstellung oder den Genuss des Werks zu beeinträchtigen.

KI-erzeugte oder -manipulierte Texte musst du als Betreiber nur offenlegen, wenn sie veröffentlicht werden, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Nicht jeder KI-gestützte Text ist kennzeichnungspflichtig.

Die maschinenlesbare Kennzeichnung synthetischer Audio-, Bild-, Video- und Textausgaben ist eine Pflicht der Anbieter der erzeugenden Systeme - nicht der Betreiber.

Baut eine Agentur für Kundschaft einen Chatbot und nimmt ihn unter eigenem Namen in Betrieb, muss sie als Anbieter für die Information über die KI-Interaktion sorgen.

Keine Offenlegungspflicht für Texte, wenn der KI-Inhalt menschlich geprüft oder redaktionell kontrolliert wurde und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung trägt.

Die Anbieterpflicht zur maschinenlesbaren Kennzeichnung gilt nicht, soweit das System nur eine unterstützende Funktion für die Standardbearbeitung ausübt oder die Eingaben bzw. deren Bedeutung nicht wesentlich verändert.

Für erzeugende Systeme, die vor dem 02.08.2026 in Verkehr gebracht wurden, haben Anbieter für Art. 50 Abs. 2 eine Übergangsfrist bis 02.12.2026. Das ist kein Aufschub der übrigen Transparenzpflichten.

Ein Unternehmen, das ein KI-System in eigener Verantwortung verwendet, ist Betreiber. Teamleitungen sind keine eigene gesetzliche Rolle; sie handeln für den Betreiber.

Ob ein System hochriskant ist, folgt nicht aus der Branche oder Unternehmensgröße, sondern aus seiner Zweckbestimmung nach Art. 6 und den Anwendungsfällen in Anhang III.

Als Betreiber ergreift ihr Maßnahmen zur KI-Kompetenzentwicklung eures Personals und weiterer in eurem Auftrag tätiger Personen. Ein bestimmtes individuelles Kompetenzniveau oder ein Zertifikatskurs ist nicht vorgeschrieben.

Verboten ist der Einsatz von KI-Systemen, die Emotionen natürlicher Personen am Arbeitsplatz ableiten. Emotionserkennungssysteme sind dabei über biometrische Daten definiert - eine Stimmungsabfrage, bei der Beschäftigte selbst Angaben machen, ist damit nicht ohne Weiteres gleichzusetzen.

Wer ein Emotionserkennungssystem oder ein System zur biometrischen Kategorisierung zulässig betreibt, muss die betroffenen Personen über dessen Betrieb informieren.

Hochriskant sind KI-Systeme, die bestimmungsgemäß zur Einstellung oder Auswahl eingesetzt werden - insbesondere für gezielte Stellenanzeigen, das Sichten und Filtern von Bewerbungen und die Bewertung von Bewerbenden.

Ebenso Systeme für Entscheidungen über Arbeitsbedingungen, Beförderung oder Kündigung, für die Zuweisung von Aufgaben auf Grundlage individuellen Verhaltens oder persönlicher Merkmale und für die Überwachung und Bewertung von Leistung und Verhalten.

Betreiber solcher Systeme setzen sie gemäß Betriebsanleitung ein und übertragen die menschliche Aufsicht Personen mit nötiger Kompetenz, Schulung, Befugnis und Unterstützung.

Arbeitgeber informieren vor Inbetriebnahme am Arbeitsplatz die Arbeitnehmervertretung und die betroffenen Beschäftigten.

Betreiber von Hochrisiko-Systemen nach Anhang III, die Entscheidungen über Personen treffen oder dabei unterstützen, informieren diese Personen über den Einsatz.

Art. 86 gilt seit 02.08.2026. Wer von einer Betreiberentscheidung auf Grundlage der Ausgabe eines Anhang-III-Hochrisiko-Systems (außer Nr. 2) betroffen ist, kann eine klare, aussagekräftige Erläuterung der KI-Rolle und der wichtigsten Entscheidungselemente verlangen: Die Entscheidung muss rechtliche oder ähnlich erhebliche Wirkung haben und nach Ansicht der Person Gesundheit, Sicherheit oder Grundrechte nachteilig beeinträchtigen. Dies ist kein Recht auf Erklärung jedes KI-Ergebnisses. Davon getrennt gelten Kapitel III Abschnitte 1-3 für Anhang III erst ab 02.12.2027; Art. 113 verschiebt Art. 86 nicht pauschal auf diesen Termin.

Das Emotionsverbot am Arbeitsplatz gilt nicht, wenn das System aus medizinischen Gründen oder Sicherheitsgründen eingesetzt oder in Verkehr gebracht werden soll.

Ein Anhang-III-System ist nur ausgenommen, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, unter anderem das Entscheidungsergebnis nicht wesentlich beeinflusst, UND mindestens eine Bedingung erfüllt: (a) eng gefasste Verfahrensaufgabe; (b) Verbesserung einer abgeschlossenen menschlichen Tätigkeit; (c) Erkennung von Entscheidungsmustern, ohne die abgeschlossene menschliche Bewertung ohne angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen; (d) vorbereitende Bewertungsaufgabe. Bei Profiling natürlicher Personen bleibt das System immer hochriskant.

Das Erläuterungsrecht gilt nicht, soweit Unions- oder nationales Recht Ausnahmen vorsieht, und nur soweit es nicht bereits anderweitig im Unionsrecht geregelt ist.

Eine Bildungseinrichtung, die ein KI-System in eigener Verantwortung verwendet, ist Betreiber - das gilt auch für Behörden und öffentliche Stellen.

Bildung ist nicht pauschal hochriskant. Entscheidend sind die in Anhang III Nr. 3 genannten Zweckbestimmungen.

Die Einrichtung als Betreiber ergreift Maßnahmen zur KI-Kompetenzentwicklung ihres Personals und weiterer in ihrem Auftrag tätiger Personen, zum Beispiel der Lehrkräfte. Ein bestimmtes individuelles Niveau oder ein Zertifikat ist nicht vorgeschrieben.

Verboten ist der Einsatz von KI-Systemen, die Emotionen natürlicher Personen in Bildungseinrichtungen ableiten.

Hochriskant sind Systeme, die bestimmungsgemäß den Zugang oder die Zulassung bestimmen oder Personen Einrichtungen zuweisen (a), Lernergebnisse bewerten - auch zur Steuerung des Lernprozesses (b), das angemessene Bildungsniveau bewerten (c) oder verbotenes Verhalten in Prüfungen überwachen und erkennen (d).

Für solche Systeme gelten die Betreiberpflichten: Einsatz nach Betriebsanleitung, menschliche Aufsicht durch kompetente und befugte Personen und Information der betroffenen Personen.

Öffentlich-rechtliche Stellen und private Einrichtungen, die öffentliche Dienste erbringen, müssen vor der ersten Verwendung einschlägiger Anhang-III-Hochrisiko-Systeme (außer Nr. 2) eine Grundrechte-Folgenabschätzung durchführen. Art. 27 Abs. 1 nennt außerdem Betreiber der Systeme nach Nr. 5 lit. b/c. Sie erfassen Prozesse, Dauer/Häufigkeit, betroffene Gruppen, konkrete Risiken, Aufsicht sowie Abhilfe- und Beschwerdemechanismen. Vorhandene Bewertungen dürfen in vergleichbaren Fällen genutzt werden; Änderungen erfordern Aktualisierung. Ergebnisse sind der Marktüberwachungsbehörde mit dem vorgesehenen Muster mitzuteilen; Art. 27 Abs. 3 enthält die Ausnahme für Art. 46 Abs. 1.

Lernende, insbesondere Kinder, sind durch das Verbot geschützt, Schwächen aufgrund des Alters zur wesentlichen Verhaltensverzerrung mit erheblichem Schaden auszunutzen.

Betreiber informieren Personen über Entscheidungen oder Entscheidungsunterstützung durch Anhang-III-Hochrisiko-KI (Art. 26 Abs. 11, ab 02.12.2027). Davon getrennt gilt Art. 86 seit 02.08.2026: Bei einer Betreiberentscheidung auf Grundlage einer solchen Ausgabe mit rechtlicher oder ähnlich erheblicher Wirkung besteht ein Erläuterungsrecht, wenn die Person eine nachteilige Wirkung auf ihre Gesundheit, Sicherheit oder Grundrechte sieht; die Ausnahmen des Art. 86 Abs. 2/3 bleiben bestehen.

Lernende und Eltern können bei Gründen für die Annahme eines Verstoßes Beschwerde bei der Marktüberwachungsbehörde einreichen.

Das Emotionsverbot gilt nicht, wenn das System aus medizinischen Gründen oder Sicherheitsgründen eingesetzt werden soll.

Ein Anhang-III-System ist nur ausgenommen, wenn es kein erhebliches Risiko für Gesundheit, Sicherheit oder Grundrechte natürlicher Personen birgt, unter anderem das Entscheidungsergebnis nicht wesentlich beeinflusst, UND mindestens eine Bedingung erfüllt: (a) eng gefasste Verfahrensaufgabe; (b) Verbesserung einer abgeschlossenen menschlichen Tätigkeit; (c) Erkennung von Entscheidungsmustern, ohne die abgeschlossene menschliche Bewertung ohne angemessene menschliche Überprüfung zu ersetzen oder zu beeinflussen; (d) vorbereitende Bewertungsaufgabe. Bei Profiling natürlicher Personen bleibt das System immer hochriskant.

Wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt, ist Anbieter. Ob ein eingebundenes Modell von einem Dritten stammt, ändert daran nichts; entscheidend ist das eigene KI-System.

Wer selbst ein KI-Modell mit allgemeinem Verwendungszweck anbietet, unterliegt Kapitel V, das seit 02.08.2025 gilt.

Hochriskant ist ein System als Sicherheitsbauteil oder Produkt nach den Harmonisierungsvorschriften in Anhang I mit Drittprüfungspflicht - diese Regeln gelten erst ab 02.08.2028.

Art. 6 Abs. 1a nimmt ausschließlich nicht sicherheitsrelevante Nutzerunterstützung, Leistungsoptimierung/-effizienz, Automatisierung, Benutzerfreundlichkeit und Qualitätskontrolle vom Sicherheitsbauteilbegriff aus. Nach Abs. 1b gelten Systeme als Sicherheitsbauteile, wenn ihr Ausfall oder ihre Fehlfunktion Gesundheit und Sicherheit gefährden würde. Nach Abs. 1c erfüllt eine Drittprüfung allein wegen anderer, nicht gesundheits-/sicherheitsrelevanter Risiken nicht die Bedingung des Abs. 1 lit. b.

Systeme mit einer Zweckbestimmung aus Anhang III sind hochriskant - diese Regeln gelten erst ab 02.12.2027.

Hältst du ein Anhang-III-System nach Art. 6 Abs. 3 für nicht hochriskant, dokumentierst du die Bewertung vor dem Inverkehrbringen, registrierst das System nach Art. 49 Abs. 2 und legst die Dokumentation auf Verlangen der Behörde vor.

Art. 16 lit. a verlangt die Anforderungen aus Art. 8-15: Risikomanagement, Daten und Daten-Governance, technische Dokumentation, Aufzeichnungen, Informationen für Betreiber, menschliche Aufsicht sowie Genauigkeit, Robustheit und Cybersicherheit. Die jeweiligen Voraussetzungen gelten für das konkrete Hochrisiko-System: Anhang III ab 02.12.2027, Anhang I ab 02.08.2028 (Art. 113 Abs. 3 lit. c).

Art. 16 lit. c-i verlangt ein Qualitätsmanagementsystem, Aufbewahrung der Dokumentation und kontrollierter automatischer Protokolle, Konformitätsbewertung vor Inverkehrbringen/Inbetriebnahme, EU-Konformitätserklärung, CE-Kennzeichnung und Registrierung nach den jeweils genannten Artikeln. Für Anhang III gelten die Pflichten ab 02.12.2027; für Anhang I ab 02.08.2028. Übergangsfälle bleiben nach Art. 111 Abs. 2 gesondert zu prüfen.

Händler, Einführer, Betreiber oder Dritte gelten nur in drei Fällen als Anbieter eines Hochrisiko-Systems mit den Pflichten nach Art. 16: Sie versehen ein bereits in Verkehr gebrachtes Hochrisiko-System mit eigenem Namen oder eigener Marke (a), nehmen eine wesentliche Änderung vor, nach der es hochriskant bleibt (b), oder ändern die Zweckbestimmung eines nicht hochriskanten Systems so, dass es hochriskant wird (c). Eine API-Anbindung ist für sich genommen keiner dieser Fälle.

Beim Rollenwechsel gilt der ursprüngliche Anbieter nicht mehr als Anbieter dieses konkreten Systems und unterstützt den neuen Anbieter mit Zusammenarbeit, Informationen, technischem Zugang und weiterer Hilfe. Diese Unterstützung entfällt ausdrücklich, wenn er klar festgelegt hat, dass sein System nicht in ein Hochrisiko-System geändert werden darf; in diesem Fall braucht er auch keine Dokumentation zu übergeben.

Systeme, die direkt mit Menschen interagieren, sind so zu gestalten, dass Menschen über die KI-Interaktion informiert werden, sofern das nicht offensichtlich ist.

Systeme, die synthetische Audio-, Bild-, Video- oder Textinhalte erzeugen, kennzeichnen ihre Ausgaben maschinenlesbar und erkennbar als künstlich erzeugt oder manipuliert. Für vor dem 02.08.2026 in Verkehr gebrachte Systeme gilt diese Pflicht ab 02.12.2026.

Forschung, Tests und Entwicklung vor dem Inverkehrbringen oder der Inbetriebnahme sind ausgenommen - Tests unter Realbedingungen jedoch nicht.

Ausschließlich für wissenschaftliche Forschung und Entwicklung entwickelte und in Betrieb genommene Systeme und Modelle sind ausgenommen.

Systeme unter freien und quelloffenen Lizenzen sind ausgenommen - außer als Hochrisiko-System oder als System nach Art. 5 oder Art. 50.

Hochrisiko-Systeme, die vor dem Geltungsbeginn von Kapitel III in Verkehr gebracht wurden, fallen nur bei erheblichen Änderungen ihrer Konzeption unter die Verordnung; für Systeme zur Nutzung durch Behörden gilt spätestens der 02.08.2030.

Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, die vor dem 02.08.2025 in Verkehr gebracht wurden, müssen die Pflichten ab 02.08.2027 erfüllen.