Schatten-KI im Unternehmen: Risiken und 6-Schritte-Plan

Schatten-KI (englisch Shadow AI) ist die berufliche Nutzung von KI-Tools, die das Unternehmen weder freigegeben noch überhaupt erfasst hat: ein privates Konto bei einem Chat-Assistenten, eine Browser-Erweiterung, die Seiten zusammenfasst, ein Tool, das Besprechungen transkribiert, eine KI-Funktion, die in vorhandener Software aktiviert wurde. Das Problem ist nicht, dass Beschäftigte KI nutzen. Das Problem ist, dass niemand weiß, welche Daten wohin fließen und zu welchen Bedingungen. Die wirksame Antwort ist kein Verbot, sondern eine Bestandsaufnahme ohne Schuldzuweisung, freigegebene Tools für denselben Bedarf, kurze Regeln und ein schneller Weg, ein neues Tool anzufragen.

Dieser Artikel ist eine allgemeine Information und keine Rechtsberatung. Datenschutz und Arbeitsrecht regeln sowohl die Nutzung der Tools als auch die Frage, wie Sie sie kontrollieren dürfen; binden Sie Ihren Datenschutzbeauftragten und, wo vorhanden, den Betriebsrat ein.

Warum Schatten-KI entsteht

Schatten-KI ist die jüngste Form eines alten Phänomens, der Schatten-IT. Das britische National Cyber Security Centre (NCSC) zählt nicht genehmigte KI-Tools ausdrücklich zur Schatten-IT und weist darauf hin, dass Beschäftigte solche Tools in der Regel nutzen, um ihre Arbeit zu erledigen, und nicht, um Regeln zu brechen. Die Ursachen sind fast immer dieselben:

• Das Tool ist einen Klick entfernt. Kein Einkauf, keine Installation, nur ein kostenloses Konto.
• Der Nutzen ist sofort da. Ein Protokoll in zwei Minuten statt in dreißig.
• Intern gibt es kein Angebot, oder die Anfrage für ein Tool dauert Wochen.
• Die Regeln sind unbekannt oder vage. „KI verantwortungsvoll nutzen“ sagt nicht, was erlaubt ist.
• KI kommt über vorhandene Software. Ein Update ergänzt einen Assistenten im E-Mail-Programm oder CRM, ohne dass es jemand entschieden hat.

In welchen Formen sie auftritt

Form	Beispiel	Was dem Unternehmen entgeht
Privates Konto bei einem Chat-Assistenten	Einen Vertrag einfügen, um eine Zusammenfassung zu erhalten	Nutzungsbedingungen, Speicherung und Weiterverwendung der Daten
Browser-Erweiterung	Ein Assistent, der jede geöffnete Seite liest	Zugriff auf Webmail, CRM, Intranet
Meeting-Transkription	Ein Bot, der Videokonferenzen beitritt	Aufzeichnung Dritter, Speicherort
KI-Funktion in vorhandener Software	Standardmäßig aktivierter Assistent im HR-Tool	Ein neuer, teils sensibler Einsatz ohne Prüfung
Private Automatisierungen	Ein Ablauf, der eingehende E-Mails an ein Modell schickt	Nicht erfasste API-Schlüssel und Datenübermittlungen
Konnektoren	Ein Assistent mit Zugriff auf das Team-Laufwerk	Weit mehr Zugriff als das, was jemand einfügt

Die tatsächlichen Risiken

• Abfluss vertraulicher oder personenbezogener Daten. Bei Verbraucherangeboten können Eingaben je nach Bedingungen gespeichert oder weiterverwendet werden. Prüfen Sie die aktuell geltenden Bedingungen des konkreten Angebots.
• Fehlende vertragliche Grundlage. Ohne Auftragsverarbeitungsvertrag und ohne Klärung des Verarbeitungsorts kann die Verarbeitung personenbezogener Daten gegen die DSGVO verstoßen.
• Ungeprüfte Fehler. Ein falsches Ergebnis, das unverändert in ein Angebot oder Schreiben wandert, bindet das Unternehmen.
• Unbemerkte regulierte Einsätze. Ein Tool, das Bewerbungen vorsortiert, kann nach dem EU AI Act hochriskant sein, ohne dass es jemand eingestuft hat.
• Verlorenes Wissen. Prompts, Einstellungen und Verläufe liegen in privaten Konten und gehen mit der Person.
• Kein Nachweis. Bei einer Kundenfrage oder Prüfung kann das Unternehmen nicht sagen, was gemacht wurde.

Diese Risiken gibt es auch bei freigegebenen Tools; der Unterschied ist, dass sie dort bekannt und geregelt sind.

Schatten-KI erkennen, ohne Beschäftigte zu überwachen

Beginnen Sie mit den einfachsten und am wenigsten eingreifenden Mitteln.

1. Fragen. Eine anonyme Umfrage mit fünf Fragen: welche Tools, für welche Aufgaben, mit welchen Daten, mit welchem Konto, und was intern fehlt. Sagen Sie klar, dass keine Sanktionen folgen.
2. Führungskräften und Teams zuhören. Über die eigene Nutzung wird offen gesprochen, wenn es um den Bedarf geht und nicht um den Fehler.
3. Ausgaben ansehen. Spesenabrechnungen und Kreditkartenabos zeigen die kostenpflichtigen Tools.
4. Verbindungen über Firmenkonten prüfen. Die Admin-Konsole Ihrer Office-Suite listet Drittanbieter-Apps, denen Nutzer Zugriff erteilt haben.
5. Vorhandene technische Mittel nutzen. Das NCSC nennt Asset-Inventare und Cloud Access Security Broker (CASB) als Erkennungsmethoden und weist auf deren Grenzen hin.

Die letzten beiden Punkte berühren die Kontrolle des Verhaltens von Beschäftigten. Klären Sie vorab mit Datenschutzbeauftragtem und arbeitsrechtlicher Beratung, was zulässig ist und was angekündigt werden muss. Gibt es einen Betriebsrat, ist er nach § 90 BetrVG über die Planung von Arbeitsabläufen einschließlich des Einsatzes von Künstlicher Intelligenz rechtzeitig zu unterrichten; welche weiteren Beteiligungsrechte greifen, hängt vom Einzelfall ab.

Ein Plan in sechs Schritten

1. Bestandsaufnahme

Tragen Sie die Antworten in eine Tabelle ein: Tool, Team, Aufgabe, Datenart, verwendetes Konto. Das ist der Anfang Ihres KI-Inventars.

2. Einsätze sortieren

Befund	Entscheidung	Beispiel
Berechtigter Bedarf, unkritische Daten	Freigeben und in die Liste aufnehmen	Öffentliche Marketingtexte umformulieren
Berechtigter Bedarf, ungeeignetes Tool	Durch ein freigegebenes Tool ersetzen	Zusammenfassungen interner Dokumente über ein privates Konto
Berechtigter Bedarf, sensible Daten	Absichern: Business-Tarif, Vertrag, Einstellungen	Transkription von Kundengesprächen
Einsatz mit regulatorischem Risiko	Aussetzen und prüfen lassen	Assistent sortiert Bewerbungen vor
Kein echter Bedarf	Untersagen und begründen	Erweiterung, die jede Seite mitliest

Für Einsätze, die Entscheidungen über Menschen berühren, gibt der EU AI Act Risikoklassen-Check eine erste Orientierung.

3. Freigegebene Alternativen anbieten

Dieser Schritt lässt Schatten-KI verschwinden. Ist das freigegebene Tool unpraktischer als das private Konto, geht die verdeckte Nutzung weiter. Wählen Sie einen Business-Tarif, dessen Datenbedingungen Sie gelesen haben, mit Konten, die dem Unternehmen gehören; unsere Fragen-Checkliste für KI-Anbieter dient als Raster.

4. Regeln aufschreiben

Eine kurze Richtlinie: Freigabeliste, Datenregel, Prüfung der Ergebnisse, genehmigungspflichtige Einsätze, Ansprechperson. Unser Muster für eine KI-Richtlinie können Sie anpassen.

5. Schulen

Eine kurze Einheit mit Beispielen aus der Bestandsaufnahme: was erlaubt ist, was nicht und warum. Der EU AI Act verlangt ohnehin Maßnahmen, die die KI-Kompetenz der Beschäftigten fördern; siehe KI-Kompetenz nach Artikel 4.

6. Einen schnellen Weg für neue Tools öffnen

Ein Formular mit wenigen Zeilen und eine zugesagte Antwortzeit, zum Beispiel fünf Arbeitstage. Das NCSC betont genau diesen Punkt: Ein schneller Anfrageprozess verhindert, dass Umgehungen zurückkehren. Wiederholen Sie die Umfrage nach sechs Monaten, um die Wirkung zu messen.

Wenn sensible Daten bereits eingegeben wurden

1. Suchen Sie keine Schuldigen. Eine Meldung in gutem Glauben muss folgenlos bleiben, sonst meldet niemand mehr etwas.
2. Klären Sie die Fakten: welche Daten, welches Tool, welches Konto, wann.
3. Prüfen Sie die Bedingungen des Tools und nutzen Sie die Möglichkeiten, Verlauf oder Konto zu löschen.
4. Bewerten Sie mit Ihrem Datenschutzbeauftragten, ob eine Verletzung des Schutzes personenbezogener Daten vorliegt. Je nach Risiko sieht die DSGVO eine interne Dokumentation oder eine Meldung an die Aufsichtsbehörde binnen 72 Stunden vor.
5. Beheben Sie die Ursache: Fehlte ein freigegebenes Tool, war die Regel unbekannt?

Typische Fehler

• Verbieten, ohne etwas anzubieten. Die Nutzung geht weiter, auf privaten Smartphones.
• Die Ersten bestrafen, die offen sprechen. Sie verlieren Ihre beste Informationsquelle.
• Nur auf Chat-Assistenten schauen. Erweiterungen, Transkriptionstools und eingebaute Funktionen bleiben unter dem Radar.
• Ein Tool freigeben, ohne die Bedingungen des gewählten Tarifs zu lesen. Sie unterscheiden sich oft zwischen kostenlosem und Business-Tarif.
• Das Thema einmal erledigen. Jeden Monat kommen neue Tools hinzu.

Checkliste

• Eine anonyme Umfrage ist durchgeführt, die Ergebnisse sind festgehalten.
• Jeder gefundene Einsatz hat eine Entscheidung: freigeben, ersetzen, absichern, aussetzen oder untersagen.
• Mindestens ein freigegebenes Tool deckt den häufigsten Bedarf.
• Die Konten gehören dem Unternehmen.
• Eine kurze Richtlinie ist veröffentlicht und erklärt.
• Die Teams wissen, wen sie nach einem neuen Tool fragen und wie schnell sie eine Antwort bekommen.
• Es gibt einen Meldeweg ohne Sanktionen.
• Datenschutzbeauftragter und, wo vorhanden, Betriebsrat sind eingebunden.
• Ein Termin für die nächste Bestandsaufnahme steht fest.

Quellen

• NCSC (Vereinigtes Königreich): Shadow IT guidance
• Europäische Kommission: Fragen und Antworten zur KI-Kompetenz
• EUR-Lex: Verordnung (EU) 2016/679 (DSGVO)
• Gesetze im Internet: § 90 BetrVG