Schatten-KI ist die KI-Variante der bekannten Schatten-IT. Sie entsteht selten aus böser Absicht: Mitarbeitende wollen schneller arbeiten, kostenlose Chat-Assistenten sind einen Klick entfernt, und viele Programme erhalten laufend neue KI-Funktionen. Microsoft beschreibt Shadow AI als Nutzung von KI-Werkzeugen, besonders generativer KI, ohne Wissen, Freigabe oder Steuerung durch IT- und Sicherheitsteams, und nennt als Folgen Datenabfluss, Verstöße gegen Vorschriften und Reputationsschäden.
Wie Schatten-KI entsteht
- Kundenanfragen, Verträge oder Personaldaten werden in einen frei verfügbaren Chat-Assistenten kopiert, um schneller eine Antwort oder Zusammenfassung zu erhalten.
- Eine Transkriptions-App läuft in Besprechungen mit, ohne dass jemand die Datenverarbeitung geprüft hat.
- Eine Browser-Erweiterung mit KI-Funktion liest jede besuchte Seite mit, auch interne Anwendungen.
- Entwicklerinnen und Entwickler nutzen einen KI-Programmierassistenten mit privatem Konto für Firmencode.
- Eine bereits genutzte Software aktiviert neue KI-Funktionen, die Daten an weitere Dienstleister übertragen.
- Eine Fachabteilung baut eine Automatisierung, die Daten mit einem privaten API-Schlüssel an ein KI-Modell sendet.
Risiken
- Datenabfluss: Ob Eingaben gespeichert oder zum Training verwendet werden, hängt von Anbieter, Tarif und Einstellungen ab. Bei Verbraucherangeboten entscheiden oft die Nutzenden selbst über diese Einstellung, bei Unternehmensverträgen ist sie meist anders geregelt.
- Datenschutz: Ohne Vertrag zur Auftragsverarbeitung und ohne Prüfung des Verarbeitungsorts ist die Weitergabe personenbezogener Daten nach der DSGVO regelmäßig problematisch.
- Geschäftsgeheimnisse: Angebote, Kalkulationen oder Quellcode verlassen das Unternehmen unkontrolliert.
- Falsche Ergebnisse: KI-Antworten werden ungeprüft übernommen, siehe Halluzination.
- Pflichten aus dem AI Act: Unternehmen, die KI-Systeme einsetzen, müssen nach Artikel 4 Maßnahmen ergreifen, um die KI-Kompetenz ihres Personals zu fördern. Die Regel gilt seit 2. Februar 2025 und wurde mit der Digital-Omnibus-Verordnung 2026 neu gefasst. Für Hochrisiko-Anwendungen wie die Personalauswahl gelten ab 2. Dezember 2027 zusätzliche Pflichten. Unbekannte Werkzeuge lassen sich weder schulen noch einstufen.
- Sicherheit: Erweiterungen und Apps können Schadfunktionen enthalten oder für Prompt Injection anfällig sein.
Schatten-KI erkennen
- Nachfragen: Eine kurze, sanktionsfreie Umfrage zeigt, welche Werkzeuge wofür genutzt werden. Das ist oft ergiebiger als jede Technik.
- Cloud-Erkennung: Microsoft Defender for Cloud Apps führt im App-Katalog eine Kategorie für generative KI. Erkannte Apps lassen sich mit Risikobewertung anzeigen und als freigegeben oder nicht freigegeben markieren.
- Netzwerkanalyse: Microsoft Entra Global Secure Access erkennt Zugriffe auf KI-Dienste, KI-Programmierschnittstellen und MCP-Server im Netzwerkverkehr. Auch Protokolle von Proxy oder DNS-Filter geben Hinweise.
- Berechtigungen und Erweiterungen: Zustimmungen zu Drittanbieter-Apps in Microsoft Entra ID und installierte Browser-Erweiterungen regelmäßig prüfen.
Was gegen Schatten-KI hilft
- Eine gute Alternative anbieten: Ein freigegebenes Werkzeug mit Unternehmensvertrag, etwa Microsoft Copilot in der eigenen Microsoft-365-Umgebung, nimmt den Grund für Umwege.
- Klare Regeln: Eine kurze KI-Nutzungsrichtlinie legt fest, welche Werkzeuge erlaubt sind und welche Datenarten hineindürfen.
- Schulen: Mitarbeitende verstehen, warum Regeln gelten, und erkennen riskante Situationen.
- Technisch absichern: Nicht freigegebene KI-Apps sperren oder mit einem Warnhinweis versehen, sensible Inhalte mit Richtlinien zur Verhinderung von Datenverlust schützen.
- Schnell freigeben: Ein einfacher Prüfweg für neue Werkzeuge verhindert, dass Mitarbeitende monatelang auf eine Entscheidung warten und auf eigene Faust handeln.
- Verzeichnis führen: Alle eingesetzten KI-Systeme mit Zweck, Datenarten und Verantwortlichen erfassen, als Teil der KI-Governance.
Abgrenzung
Schatten-IT umfasst jede nicht genehmigte Software und jeden nicht genehmigten Cloud-Dienst. Schatten-KI ist der Teil davon, bei dem KI-Modelle Daten verarbeiten. Das Risiko liegt dort zusätzlich in der Weiterverwendung von Eingaben und in nicht nachvollziehbaren Ergebnissen. KI-Governance ist der Rahmen, der Schatten-KI in geregelte Nutzung überführt.
Bezug zu TOMORIS
Das Training KI im Arbeitsalltag von TOMORIS UNIVERSITY behandelt, wie Teams KI-Werkzeuge produktiv einsetzen und dabei vertrauliche Daten, Freigaben und interne Regeln berücksichtigen.
Quellen
- Microsoft Learn: Prevent data leak to shadow AI
- Microsoft Learn: Shadow AI discovery in Global Secure Access
- Microsoft Learn: Manage generative AI apps for your organization
- EUR-Lex: Verordnung (EU) 2024/1689 über künstliche Intelligenz, Art. 4 und Art. 113
- EUR-Lex: Verordnung (EU) 2026/1744, Digital-Omnibus-Verordnung zur KI, ABl. L vom 24.7.2026
- BSI: Generative KI-Modelle, Chancen und Risiken für Industrie und Behörden
- Anthropic Privacy Center: Trainingsdaten bei Verbraucherplänen (Beispiel einer Nutzereinstellung)