EU AI Act Risikoklassen einfach erklärt – mit Beispielen

Der EU AI Act ordnet KI-Einsätze vier Risikoklassen zu. Unannehmbares Risiko: eine kurze Liste von Praktiken, die schlicht verboten sind, etwa Social Scoring oder Emotionserkennung am Arbeitsplatz. Hohes Risiko: Einsätze in sensiblen Bereichen wie Recruiting, Kreditscoring oder kritischer Infrastruktur, die erlaubt sind, aber strengen Anforderungen unterliegen. Begrenztes Risiko: Situationen mit Transparenzpflichten, etwa Chatbots und Deepfakes, bei denen Menschen erfahren müssen, dass sie es mit KI zu tun haben. Minimales Risiko: alles andere, etwa Spamfilter oder Schreibassistenten, ohne besondere Pflichten aus der Verordnung. Daneben gelten eigene Regeln für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck. Die Klasse hängt davon ab, wofür die KI eingesetzt wird, nicht von der Technik dahinter.

Dieser Artikel erklärt jede Klasse mit Beispielen aus der Unternehmenspraxis. Er ist eine allgemeine Information, keine Rechtsberatung. Die Verordnung (EU) 2024/1689 enthält detaillierte Definitionen und Ausnahmen, und die Leitlinien entwickeln sich weiter. Prüfen Sie Einzelheiten anhand des offiziellen Textes und mit qualifizierter Rechtsberatung.

Der Grundsatz: Der Zweck entscheidet

Der AI Act reguliert Einsätze, nicht Algorithmen. Dasselbe Sprachmodell kann sein:

• minimal riskant, wenn es Marketingtexte entwirft,
• mit begrenztem Risiko verbunden, wenn es als Chatbot mit Kunden spricht,
• hochriskant, wenn es Bewerber in eine Rangfolge bringt,
• Teil einer verbotenen Praxis, wenn es die Emotionen von Beschäftigten bei der Arbeit erschließen soll.

Deshalb muss die Einstufung pro Anwendungsfall erfolgen. Der kostenlose EU AI Act Risikoklassen-Check führt Sie für jeweils einen Anwendungsfall durch die Fragen.

Klasse 1: Unannehmbares Risiko (verboten)

Artikel 5 verbietet bestimmte Praktiken. Diese Verbote gelten seit dem 2. Februar 2025.

Verbotene Praxis	Unternehmensrelevantes Beispiel dafür, was nicht erlaubt ist
Manipulative oder täuschende Techniken, die erheblichen Schaden verursachen	Oberflächen, die Menschen unterschwellig zu schädlichen finanziellen Entscheidungen drängen
Ausnutzung von Schwachstellen (Alter, Behinderung, soziale oder wirtschaftliche Lage)	Menschen in finanzieller Notlage gezielt mit manipulativen, KI-gesteuerten Angeboten ansprechen, die erheblichen Schaden verursachen
Social Scoring mit ungerechtfertigter Benachteiligung	Kunden nach sachfremdem Sozialverhalten bewerten, um ihnen Leistungen zu verweigern
Vorhersage von Straftatrisiken allein auf Basis von Profiling oder Persönlichkeitsmerkmalen	Einschätzen, ob jemand wahrscheinlich eine Straftat begeht, nur anhand von Persönlichkeitsprofilen
Ungezieltes Auslesen von Gesichtsbildern für Erkennungsdatenbanken	Eine Gesichtsdatenbank aus im Internet gesammelten Bildern aufbauen
Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen	Gesichtsausdrücke von Beschäftigten in Videocalls analysieren, um ihr Engagement zu bewerten (Ausnahmen gibt es aus medizinischen oder Sicherheitsgründen)
Biometrische Kategorisierung, die sensible Merkmale ableitet	Aus Gesichtsbildern politische Einstellung, Religion oder sexuelle Orientierung ableiten
Biometrische Echtzeit-Fernidentifizierung im öffentlichen Raum zur Strafverfolgung	Auf enge Ausnahmen für Behörden beschränkt

Für die meisten Unternehmen betrifft die praktische Lehre HR und Marketing. Emotionserkennung bei Beschäftigten und manipulatives Targeting sind die Stellen, an denen gewöhnliche Unternehmen in verbotenes Terrain geraten könnten.

Klasse 2: Hohes Risiko

Hochrisiko-KI ist erlaubt, aber streng reguliert. Es gibt zwei Wege in diese Klasse.

Weg A: KI in regulierten Produkten

KI-Systeme, die Sicherheitsbauteil eines Produkts oder selbst ein Produkt sind, das unter in Anhang I aufgeführte EU-Produktsicherheitsvorschriften fällt und eine Konformitätsbewertung durch Dritte erfordert. Beispiele sind KI in Medizinprodukten, Maschinen, Spielzeug, Aufzügen und Fahrzeugen. Diese Regeln sollten ab dem 2. August 2027 gelten.

Weg B: In Anhang III aufgeführte Anwendungsfälle

Bereich	Beispiele
Biometrie	Biometrische Fernidentifizierung, biometrische Kategorisierung, Emotionserkennung (soweit nicht verboten)
Kritische Infrastruktur	KI als Sicherheitsbauteil bei der Steuerung des Straßenverkehrs oder der Versorgung mit Wasser, Gas, Wärme oder Strom oder bei digitaler Infrastruktur
Allgemeine und berufliche Bildung	Über Zulassung entscheiden, Lernergebnisse bewerten, Lernprozesse steuern, Prüfungen überwachen
Beschäftigung und Personalmanagement	Lebensläufe sichten, Bewerber reihen, gezielte Stellenanzeigen, Entscheidungen über Beförderung oder Kündigung, Aufgabenverteilung nach Verhalten oder Merkmalen, Leistungsüberwachung
Zugang zu grundlegenden Leistungen	Anspruch auf öffentliche Leistungen, Kreditwürdigkeit und Kreditscores (nicht Betrugserkennung), Risikobewertung und Preisgestaltung in der Lebens- und Krankenversicherung, Triage von Notrufen
Strafverfolgung	Verschiedene Einsätze durch oder für Polizeibehörden
Migration, Asyl und Grenzkontrolle	Risikobewertungen, Prüfung von Anträgen
Justiz und demokratische Prozesse	Unterstützung gerichtlicher Entscheidungen, Beeinflussung von Wahlen oder Wahlverhalten

Diese Pflichten sollten ab dem 2. August 2026 gelten; die EU hat allerdings Änderungen am Zeitplan einiger Hochrisiko-Regeln vorgeschlagen. Prüfen Sie den aktuellen offiziellen Zeitplan.

Die Ausnahme nach Artikel 6 Absatz 3

Ein System nach Anhang III gilt nicht als hochriskant, wenn es kein erhebliches Schadensrisiko birgt, etwa weil es nur:

• eine eng gefasste Verfahrensaufgabe erfüllt,
• das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit verbessert,
• Entscheidungsmuster oder Abweichungen erkennt, ohne die menschliche Bewertung ohne angemessene Überprüfung zu ersetzen oder zu beeinflussen, oder
• eine vorbereitende Aufgabe für eine Bewertung erfüllt.

Ein System, das ein Profiling natürlicher Personen vornimmt, ist jedoch immer hochriskant. Ein Anbieter, der sich auf die Ausnahme beruft, muss seine Bewertung dokumentieren, und Registrierungspflichten können trotzdem gelten.

Beispiele für Grenzfälle

Einsatz	Wahrscheinliche Einstufung	Warum
KI reiht Bewerber nach Eignung	Hochriskant	Beschäftigung, beeinflusst die Auswahl
KI korrigiert die Rechtschreibung in Stellenanzeigen	Wahrscheinlich nicht hochriskant	Eng gefasste Aufgabe, kein Einfluss auf Entscheidungen über Menschen
KI entwirft Interviewfragen aus der Stellenbeschreibung	Wahrscheinlich nicht hochriskant	Vorbereitend, keine Bewertung von Personen
KI bewertet die Kreditwürdigkeit von Kunden	Hochriskant	Grundlegende Leistungen, Kreditscoring
KI markiert möglicherweise betrügerische Zahlungen	Von der Kategorie Kreditscoring ausgenommen	Betrugserkennung ist dort ausdrücklich ausgenommen
KI legt individuelle Prämien für Lebensversicherungen fest	Hochriskant	Risikobewertung und Preisgestaltung in der Versicherung
KI fasst einen von Beschäftigten selbst eingereichten Bericht zusammen	Wahrscheinlich nicht hochriskant	Keine Bewertung der Person

Das sind vereinfachte Illustrationen, die die Argumentation zeigen, keine rechtlichen Feststellungen.

Was hohes Risiko in der Praxis bedeutet

Anbieter müssen Risikomanagement, Daten-Governance, technische Dokumentation, Protokollierung, Transparenz gegenüber Betreibern, die Gestaltung menschlicher Aufsicht, Maßnahmen für Genauigkeit und Robustheit, ein Qualitätsmanagementsystem, eine Konformitätsbewertung und eine Registrierung umsetzen. Betreiber müssen das System gemäß Anleitung nutzen, kompetente menschliche Aufsicht benennen, es überwachen, Protokolle aufbewahren, Beschäftigte und Betroffene informieren und in manchen Fällen eine Grundrechte-Folgenabschätzung durchführen. Unser Artikel zu den Pflichten für Betreiber nach dem EU AI Act behandelt die Betreiberseite im Detail.

Klasse 3: Begrenztes Risiko (Transparenzpflichten)

Artikel 50 legt für bestimmte KI-Systeme Transparenzpflichten fest, unabhängig davon, ob sie hochriskant sind:

Situation	Pflicht (vereinfacht)	Wer
KI interagiert direkt mit Menschen	Menschen informieren, dass sie mit KI interagieren, sofern nicht offensichtlich	Anbieter (Gestaltung)
KI erzeugt synthetische Audio-, Bild-, Video- oder Textinhalte	Ergebnisse maschinenlesbar als künstlich erzeugt kennzeichnen	Anbieter
Deepfakes	Offenlegen, dass Inhalte künstlich erzeugt oder manipuliert sind	Betreiber
KI-generierte Texte zu Angelegenheiten von öffentlichem Interesse	Offenlegen, außer bei menschlicher redaktioneller Prüfung und Verantwortung	Betreiber
Emotionserkennung oder biometrische Kategorisierung	Die betroffenen Personen informieren	Betreiber

Typische Beispiele aus Unternehmen: ein Chatbot auf der Website, ein KI-Sprachassistent in der Hotline, KI-generierte Produktbilder mit realistisch wirkenden Personen oder ein synthetisches Video einer Sprecherin. Diese Pflichten sollten ab dem 2. August 2026 gelten.

Klasse 4: Minimales Risiko

Die meisten KI-Einsätze in Unternehmen fallen hierunter: E-Mails entwerfen, Dokumente zusammenfassen, Übersetzung, Spamfilter, Produktempfehlungen, interne Auswertungen, Programmierhilfe, Bestandsprognosen. Der AI Act legt für diese Systeme keine besonderen Pflichten fest; freiwillige Verhaltenskodizes werden jedoch gefördert.

Zwei Dinge gelten trotzdem:

• KI-Kompetenz (Artikel 4) gilt für alle Anbieter und Betreiber, unabhängig vom Risiko. Siehe KI-Kompetenz nach dem EU AI Act.
• Andere Gesetze gelten weiter, etwa Datenschutz, Verbraucherschutz, Urheberrecht, Antidiskriminierungsrecht und Produkthaftung.

KI-Modelle mit allgemeinem Verwendungszweck: ein eigener Strang

Große Modelle, die ein breites Spektrum an Aufgaben erfüllen können – die Art, die hinter populären KI-Assistenten steckt –, werden auf Modellebene reguliert. Anbieter von KI-Modellen mit allgemeinem Verwendungszweck (GPAI) müssen unter anderem eine technische Dokumentation führen, nachgelagerten Anbietern Informationen bereitstellen, eine Urheberrechtsstrategie haben und eine Zusammenfassung der Trainingsinhalte veröffentlichen. Für Modelle mit systemischem Risiko gelten zusätzliche Pflichten wie Evaluierungen und die Meldung von Vorfällen. Diese Regeln gelten seit dem 2. August 2025.

Wenn Sie ein solches Modell nur über eine App oder API nutzen, liegen diese Modellpflichten beim Modellanbieter. Ihre Pflichten hängen von Ihrem eigenen Anwendungsfall ab, wie in den Klassen oben beschrieben.

So stufen Sie Ihre eigenen Anwendungsfälle ein

1. Listen Sie jeden Anwendungsfall auf, nicht jedes Tool.
2. Prüfen Sie zuerst die verbotenen Praktiken. Trifft eine zu: stoppen.
3. Prüfen Sie Anhang I und Anhang III. Ist der Einsatz aufgeführt, prüfen Sie, ob die Ausnahme nach Artikel 6 Absatz 3 greifen könnte und ob Profiling vorliegt.
4. Prüfen Sie Transparenzsituationen. Sie können zusätzlich zu jeder Klasse gelten.
5. Dokumentieren Sie Ihre Begründung mit Datum und Verfasser.
6. Holen Sie Rat ein bei allem, was hochriskant oder unklar ist.
7. Bewerten Sie neu, wenn sich der Einsatz ändert. Wird ein Tool für einen neuen Zweck genutzt, kann sich seine Klasse ändern.

Verankern Sie das in Ihren internen Regeln; unser Leitfaden zur KI-Richtlinie für Unternehmen zeigt, wie Sie genehmigungspflichtige Einsätze festlegen.

Verbreitete Missverständnisse

• „Wir nutzen nur ein Standardtool, der AI Act betrifft uns nicht.“ Betreiber haben Pflichten, und ein Standardtool für einen Hochrisiko-Zweck ist ein Hochrisiko-Einsatz.
• „Generative KI ist automatisch hochriskant.“ Nein. Die Einstufung hängt vom Zweck ab.
• „Minimales Risiko heißt gar keine Regeln.“ KI-Kompetenz und andere Gesetze gelten weiterhin.
• „Die Ausnahme deckt jedes Setup mit Human-in-the-Loop ab.“ Die Ausnahme nach Artikel 6 Absatz 3 ist eng und gilt nicht für Profiling.
• „Die Termine stehen fest.“ Für einige wurden Änderungen vorgeschlagen. Prüfen Sie den aktuellen Text.

Fazit

Verbotene Praktiken sind untersagt, Hochrisiko-Einsätze sind unter strengen Kontrollen erlaubt, Transparenzsituationen erfordern Offenlegung, und alles andere ist minimales Risiko ohne besondere Pflichten aus dem AI Act außer der KI-Kompetenz. Stufen Sie pro Anwendungsfall ein, dokumentieren Sie Ihre Begründung und holen Sie Rat ein, wo viel auf dem Spiel steht. Beginnen Sie mit dem EU AI Act Risikoklassen-Check für eine erste Orientierung zu jedem Anwendungsfall.