KI-Agenten im EU AI Act: Welche Regeln gelten

Der EU AI Act kennt keine eigene Kategorie für KI-Agenten. Welche Regeln gelten, ab wann, wer Anbieter oder Betreiber ist und welche Kontrollen helfen.

Der EU AI Act reguliert KI-Agenten, aber nicht als eigene Kategorie. Die Verordnung (EU) 2024/1689 definiert den Begriff nicht. Ein Agent wird als das behandelt, was er ist: in der Regel ein KI-System, das auf einem KI-Modell mit allgemeinem Verwendungszweck aufbaut. Es gelten daher dieselben Regeln wie für jedes andere KI-System: die Verbote, die Transparenzpflichten, die Hochrisiko-Pflichten, wenn der Einsatz in einen der genannten Bereiche fällt, und in jedem Fall die Maßnahmen zur KI-Kompetenz. Was sich bei Agenten ändert, ist nicht das Recht, sondern die Sorgfalt, die seine Einhaltung verlangt. Denn ein Agent handelt: Er ruft Tools auf, ändert Daten und verschickt Nachrichten.

Dieser Artikel ist eine allgemeine Information und keine Rechtsberatung. Die Europäische Kommission bezeichnet ihre eigenen Überlegungen zu Agenten als vorläufig, und die Leitlinien entwickeln sich weiter. Für Entscheidungen mit rechtlichen Folgen lesen Sie den offiziellen Text und ziehen Sie qualifizierte Beratung hinzu.

Was die Europäische Kommission zu KI-Agenten sagt

Die direkteste offizielle Antwort steht in den FAQ des AI Act Service Desk der Kommission, im Eintrag „Wie werden KI-Agenten im Rahmen des KI-Gesetzes behandelt?“. Zusammengefasst:

„KI-Agent“ ist kein Rechtsbegriff. Die Kommission weist darauf hin, dass der Begriff umgangssprachlich und oft uneinheitlich verwendet wird. Der gemeinsame Nenner: Ein Agent nimmt Eingaben aus seiner Umgebung auf, verarbeitet sie und führt darauf gestützt Aktionen aus, etwa über Funktionsaufrufe.
Agenten sind keine eigene Kategorie. Ein Agent enthält typischerweise mindestens ein KI-Modell mit allgemeinem Verwendungszweck und stellt ein KI-System dar. Die Definitionen von KI-System und KI-Modell mit allgemeinem Verwendungszweck in Artikel 3 gelten als ausreichend, um Agenten zu erfassen.
Es gelten die Regeln für Systeme und Modelle. Die Kommission nennt ausdrücklich die Verbote schädlicher Manipulation und des Ausnutzens von Schutzbedürftigkeit, die Transparenzregeln in Artikel 50 und die Anforderungen aus Kapitel III, wenn ein Agent hochriskant ist.
Autonomie zählt bei den leistungsfähigsten Modellen. Der Grad an Autonomie und die Tool-Nutzung können eine Rolle spielen, wenn ein Modell als Modell mit systemischem Risiko eingestuft wird. Das betrifft die Entwickler der Modelle, nicht die Unternehmen, die sie nutzen.
Die Position ist vorläufig. Das KI-Büro beobachtet die Entwicklung weiter und prüft bei Bedarf zusätzliche Maßnahmen.

Welche Regeln heute für einen Agenten gelten

Regel	Wann sie einen Agenten betrifft	Seit bzw. ab
KI-Kompetenz (Artikel 4)	Immer, wenn Ihre Beschäftigten Agenten nutzen oder beaufsichtigen	2. Februar 2025
Verbotene Praktiken (Artikel 5)	Wenn der Agent Menschen schädlich manipulieren oder ihre Schutzbedürftigkeit ausnutzen könnte, neben weiteren Praktiken	2. Februar 2025
Transparenz (Artikel 50)	Wenn der Agent mit Menschen interagiert oder Inhalte erzeugt	2. August 2026
Hochrisiko nach Anhang III (Kapitel III)	Wenn der Agent in Bereichen wie Beschäftigung, Bildung, Kredit oder grundlegenden Diensten eingesetzt wird	2. Dezember 2027
Hochrisiko in regulierten Produkten, Anhang I	Wenn der Agent Sicherheitsbauteil eines regulierten Produkts ist	2. August 2028
DSGVO	Immer, wenn der Agent personenbezogene Daten verarbeitet	In Kraft

Die Hochrisiko-Termine entsprechen dem KI-Omnibus, der seit dem 27. Juli 2026 in Kraft ist, wie ihn die Europäische Kommission veröffentlicht. Sie können sich erneut ändern; prüfen Sie sie, bevor Sie planen. Unser Ratgeber zu den Risikoklassen des EU AI Act erklärt jede Stufe mit Beispielen.

Den Einsatz einstufen, nicht die Technik

Dass etwas Agent heißt, sagt nichts über sein Risiko. Entscheidend ist der Zweck:

Agent	Zweck	Wahrscheinliche Einstufung
Interner Rechercheassistent	Unternehmensdokumentation durchsuchen und zusammenfassen	Minimales Risiko
Kundenservice-Agent	Anfragen beantworten und Tickets anlegen	Transparenz: Menschen müssen wissen, dass sie es mit einer KI zu tun haben
Vertriebsagent	Akquise-E-Mails entwerfen und versenden	Je nach Fall Transparenz, dazu Datenschutz- und Wettbewerbsrecht
Recruiting-Agent	Bewerbungen sortieren oder aussortieren	Hochrisiko (Beschäftigung)
Kreditagent	Kreditwürdigkeit natürlicher Personen bewerten	Hochrisiko (Kredit)
Einkaufsagent	Angebote vergleichen und Bestellungen zur Freigabe vorbereiten	Minimales Risiko, mit internen Ausgabenkontrollen

Agenten haben eine eigene Falle: Ihr Zweck kann sich ausweiten, ohne dass es jemand beschließt. Ein Agent mit Zugriff auf E-Mail, CRM und HR-Tool kann wegen einer vagen Anweisung plötzlich Menschen bewerten. Deshalb lohnt es sich, für jeden Agenten schriftlich festzuhalten, wofür er da ist, und seine Tools auf diesen Zweck zu begrenzen. Der EU AI Act Risikoklassen-Check gibt für jeden Einsatz eine erste Orientierung.

Anbieter oder Betreiber?

Der AI Act verteilt die Pflichten nach Rollen:

Nutzen Sie einen Agenten, den ein Softwarehersteller anbietet, sind Sie Betreiber. Das ist der häufigste Fall.
Bauen Sie einen eigenen Agenten auf der API eines Modells und nehmen ihn unter Ihrem Namen in Betrieb, können Sie Anbieter dieses KI-Systems sein, auch wenn das Modell von einem Dritten stammt.
Ändern Sie die Zweckbestimmung eines Systems so, dass es hochriskant wird, oder verändern Sie ein Hochrisiko-System wesentlich, übernehmen Sie die Pflichten des Anbieters (Artikel 25).

Der dritte Punkt ist für Agenten der wichtigste, weil sie sich leicht umkonfigurieren lassen: Ein zusätzliches Tool oder geänderte Anweisungen können genügen, um den Zweck zu verändern. Unser Artikel zu den Pflichten für Betreiber erläutert beide Rollen.

Wenn der Agent hochriskant ist

Fällt der Einsatz in einen Hochrisiko-Bereich, enthält der AI Act Anforderungen, die genau auf typische Agentenprobleme passen:

Menschliche Aufsicht. Hochrisiko-Systeme müssen so gestaltet sein, dass Menschen sie wirksam beaufsichtigen können. Dazu gehört, in den Betrieb eingreifen oder das System unterbrechen zu können. Als Betreiber müssen Sie die Aufsicht Personen übertragen, die dafür Kompetenz, Ausbildung und Befugnis haben.
Protokolle. Hochrisiko-Systeme müssen relevante Ereignisse automatisch aufzeichnen, und Betreiber müssen die Protokolle, die ihrer Kontrolle unterliegen, mindestens sechs Monate aufbewahren, sofern anderes Recht nichts anderes vorsieht.
Nutzung nach Betriebsanleitung. Sie müssen das System gemäß den Anweisungen des Anbieters verwenden. Das begrenzt die Freiheit, dem Agenten neue Aufgaben zu geben.
Information von Beschäftigten und Betroffenen. Vor dem Einsatz eines Hochrisiko-Systems am Arbeitsplatz sind die Arbeitnehmervertretung und die betroffenen Beschäftigten zu informieren.

Bei einem Agenten kann menschliche Aufsicht nicht heißen, am Ende eine Zusammenfassung zu lesen. Sie müssen festlegen, an welcher Stelle seines Laufs der Agent anhält und auf eine Freigabe wartet; siehe Human-in-the-Loop-KI.

Datenschutz: der zweite Rahmen, der immer gilt

Der AI Act ersetzt die DSGVO nicht. Bei Agenten verdienen drei Punkte Aufmerksamkeit:

Automatisierte Entscheidungen. Artikel 22 DSGVO gibt Betroffenen das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die ihnen gegenüber rechtliche Wirkung entfaltet oder sie in ähnlicher Weise erheblich beeinträchtigt, mit eng gefassten Ausnahmen. Ein Agent, der einen Antrag ablehnt, ohne dass ein Mensch beteiligt ist, bewegt sich genau in diesem Feld.
Datenminimierung. Ein Agent mit breitem Zugriff auf interne Systeme verarbeitet mehr personenbezogene Daten, als die Aufgabe erfordert. Begrenzen Sie den Zugriff auf das Nötige.
Folgenabschätzung. Hat eine Verarbeitung voraussichtlich ein hohes Risiko für Betroffene zur Folge, verlangt die DSGVO eine Datenschutz-Folgenabschätzung. Sprechen Sie mit Ihrem Datenschutzbeauftragten, bevor Sie einen Agenten an Kunden- oder Beschäftigtendaten anbinden.

Gibt es einen Betriebsrat, gehört er früh an den Tisch: Über die Planung von Arbeitsabläufen einschließlich des Einsatzes von Künstlicher Intelligenz ist er nach § 90 BetrVG rechtzeitig zu unterrichten.

Kontrollen, die sich auch ohne gesetzliche Pflicht lohnen

Die meisten Agenten im Unternehmen werden nicht hochriskant sein. Trotzdem kann ein handelnder Agent sehr konkreten Schaden anrichten: eine doppelte Bestellung, eine E-Mail an den falschen Kunden, ein gelöschter Datensatz. Diese Kontrollen sind in jedem Fall gute Praxis:

Schriftlicher Zweck. Ein Satz pro Agent: wofür er da ist und wofür nicht.
Minimale Rechte. Nur die Tools und Berechtigungen, die der Zweck verlangt; Lesezugriff, wo er genügt.
Menschliche Freigabe vor Unumkehrbarem. Zahlungen, Nachrichten an Kunden, Änderungen an Stammdaten und jede Entscheidung über Personen.
Schritt- und Budgetgrenzen. Eine Höchstzahl an Iterationen und an Kosten pro Aufgabe.
Aktionsprotokoll. Jeder Tool-Aufruf mit Ergebnis, damit sich nachvollziehen lässt, was passiert ist.
Gelesenes ist kein Befehl. Eine E-Mail oder Webseite kann Anweisungen enthalten, die sich an den Agenten richten. Was der Agent liest, darf ohne Prüfung keine Aktionen auslösen.
Eine benannte verantwortliche Person. Jemand, der die Protokolle prüft und den Agenten abschalten kann.
Eintrag im Inventar. Jeder Agent mit Zweck und Tools in Ihrem KI-Inventar.

Bevor Sie einen Agenten bauen, fragen Sie sich, ob Sie einen brauchen: Viele Prozesse laufen als Workflow mit festen Schritten besser und mit weniger Risiko. Den Vergleich finden Sie in KI-Agenten vs. Workflow-Automatisierung.

Checkliste

Jeder Agent hat einen schriftlichen Zweck und eine verantwortliche Person.
Jeder Einsatz ist eingestuft: verboten, hochriskant, Transparenz oder minimales Risiko.
Sie wissen, ob Sie Anbieter oder Betreiber des jeweiligen Agenten sind.
Menschen, die mit dem Agenten kommunizieren, wissen, dass er eine KI ist.
Der Agent entscheidet nicht ohne menschliche Prüfung über Personen.
Seine Berechtigungen beschränken sich auf das, was der Zweck verlangt.
Unumkehrbare Aktionen brauchen eine Freigabe.
Aktionen werden protokolliert, und jemand prüft die Protokolle.
Wer den Agenten nutzt oder beaufsichtigt, ist geschult.
Sie prüfen die Einstufung, sobald Sie ein Tool ergänzen oder die Anweisungen ändern.

Quellen

Europäische Kommission, AI Act Service Desk: Wie werden KI-Agenten im Rahmen des KI-Gesetzes behandelt?
EUR-Lex: Verordnung (EU) 2024/1689 (KI-Verordnung)
Europäische Kommission: Rechtsrahmen für KI und Zeitplan der Anwendung
EUR-Lex: Verordnung (EU) 2016/679 (DSGVO)
Gesetze im Internet: § 90 BetrVG

Häufige Fragen

Reguliert der EU AI Act KI-Agenten?

Ja, aber nicht als eigene Kategorie. Die Verordnung definiert den Begriff KI-Agent nicht. Nach Auskunft der Europäischen Kommission enthält ein Agent typischerweise ein KI-Modell mit allgemeinem Verwendungszweck und ist ein KI-System – es gelten also die Regeln für KI-Systeme und für solche Modelle.

Ist ein KI-Agent immer ein Hochrisiko-System?

Nein. Die Einstufung hängt vom Einsatz ab, nicht von der Technik. Ein Agent, der interne Dokumentation durchsucht, hat minimales Risiko. Derselbe Agent, der Bewerbungen vorsortiert oder die Kreditwürdigkeit von Personen bewertet, fällt in einen Hochrisiko-Bereich.

Was muss ein Unternehmen tun, das KI-Agenten einsetzt?

Dasselbe wie bei jedem KI-System: Maßnahmen zur KI-Kompetenz ergreifen, verbotene Praktiken ausschließen, Transparenzpflichten erfüllen, wo sie greifen, und bei Hochrisiko-Einsätzen die Betreiberpflichten wie menschliche Aufsicht und Aufbewahrung der Protokolle umsetzen.

Darf ein KI-Agent ohne Menschen über Personen entscheiden?

Nur mit großer Vorsicht. Die DSGVO gibt Betroffenen das Recht, nicht einer ausschließlich auf automatisierter Verarbeitung beruhenden Entscheidung unterworfen zu werden, die rechtliche Wirkung entfaltet oder sie ähnlich erheblich beeinträchtigt – mit eng gefassten Ausnahmen. Planen Sie eine echte menschliche Prüfung ein und binden Sie Ihren Datenschutzbeauftragten ein.