Generative KI ist im Arbeitsalltag angekommen. Texte zusammenfassen, Angebote formulieren, Code prüfen – die Werkzeuge sind nützlich und werden längst genutzt, oft schneller, als Unternehmen Richtlinien dafür aufstellen können. Genau hier entsteht ein Risiko, das in vielen Organisationen unbemerkt wächst: Shadow AI.
Was ist Shadow AI?
Shadow AI bezeichnet die Nutzung von KI-Diensten ohne Wissen oder Freigabe der IT – typischerweise über private Accounts. Eine Mitarbeiterin lädt einen Kundenvertrag in ihr persönliches ChatGPT-Konto, um eine Zusammenfassung zu erhalten. Ein Kollege fügt Quellcode in einen KI-Chat ein, um einen Fehler zu finden. Beides ist gut gemeint – und beides kann bedeuten, dass sensible Unternehmensdaten ein fremdes System verlassen.
Kein Einzelfall: Der Fall Samsung
Wie real das Risiko ist, zeigt ein prominenter Vorfall. Im April 2023 erlaubte Samsung in seiner Halbleitersparte die Nutzung von ChatGPT – und meldete innerhalb von rund 20 Tagen drei separate Datenabflüsse. Ein Entwickler fügte proprietären Quellcode aus einer internen Datenbank ein, um Fehler zu suchen; ein weiterer reichte Code zur Fehlererkennung an Fertigungsanlagen ein; im dritten Fall wurde das Transkript eines vertraulichen Meetings zur Zusammenfassung eingegeben. Die Folge: Samsung untersagte generative KI-Tools konzernweit (berichtet u. a. von Bloomberg).
Entscheidend: Keiner dieser Mitarbeiter handelte böswillig. Sie wollten ihre Arbeit schneller erledigen. Trotzdem verließ wertvolles geistiges Eigentum das Unternehmen – unwiderruflich.
Zahlen, die aufhorchen lassen
- über 40 %
der Organisationen werden laut Gartner bis 2030 einen Sicherheits- oder Compliance-Vorfall durch nicht genehmigte KI erleben. 69 % der Security-Verantwortlichen vermuten oder belegen bereits die Nutzung öffentlicher GenAI im eigenen Haus. - 71 %
der Beschäftigten geben in einer Microsoft-Studie (UK) zu, nicht genehmigte KI-Tools bei der Arbeit zu nutzen. - 90 % / 10 %
der Shadow-AI-Datenabflüsse passieren laut Mimecast über simples Copy-Paste – nur 10 % über Datei-Uploads. - 1 von 5
britischen Unternehmen hatte laut RiverSafe bereits sensible Daten über die KI-Nutzung von Mitarbeitenden exponiert.
Warum das ein echtes Problem ist
- Datenschutz (DSGVO): Personenbezogene Daten in einem privaten KI-Konto verlassen den kontrollierten Verarbeitungsrahmen – ohne Auftragsverarbeitungsvertrag, ohne dokumentierte Rechtsgrundlage. Der Bußgeldrahmen reicht bis 20 Mio. Euro oder 4 % des weltweiten Jahresumsatzes.
- Geschäftsgeheimnisse & IP: Verträge, Kalkulationen oder Quellcode, die in ein externes System gelangen, sind nicht mehr unter Ihrer Kontrolle – wie der Fall Samsung zeigt.
- Compliance & NIS-2 / NISG: Wer regulatorisch zur Beherrschung seiner Informationsrisiken verpflichtet ist, muss auch die unkontrollierte KI-Nutzung adressieren können.
Wie die Sophos Firewall hilft
Die Sophos Firewall bringt zwei Bausteine mit, die direkt gegen Shadow AI wirken. Erstens schafft die integrierte CASB-Funktion (Cloud Access Security Broker) Sichtbarkeit: Im Control Center sehen Sie, welche Cloud- und KI-Anwendungen im Netzwerk genutzt werden – und ob sie genehmigt, geduldet oder unerwünscht sind. Man kann nur steuern, was man sieht.
Zweitens gibt es in der Application Control eine eigene Anwendungskategorie „Generative AI“. Damit lassen sich KI-Dienste gezielt blockieren, zulassen, drosseln oder protokollieren. Laut Sophos benötigt die Firewall dafür ein aktives Web-Protection- oder Xstream-Protection-Abo; für die zuverlässige Erkennung ist zudem TLS-/SSL-Inspektion erforderlich.
Praxisbeispiel: Nicht freigegebene Dienste sperren
Nicht genehmigte KI-Dienste lassen sich vollständig blockieren – der Aufruf scheitert dann bereits beim Laden der Seite. Der Blick auf drei Browserfenster nebeneinander zeigt das Ergebnis: ChatGPT, Perplexity und DeepSeek sind allesamt nicht erreichbar.
Auch der Upload-Kanal lässt sich gezielt sperren
Über die reine Dienst-Sperre hinaus kann die Firewall auch nur den Datei-Upload eines Dienstes unterbinden. ChatGPT etwa lagert Uploads auf eine eigene Domain (files.oaiusercontent.com) aus, die sich blockieren lässt – während der Chat selbst erreichbar bliebe. Das Hochladen eines Dokuments scheitert dann so:
Ehrlich eingeordnet Das adressiert allerdings nur einen kleinen Teil des Problems. Laut Mimecast laufen nur rund 10 % der Datenabflüsse über Datei-Uploads – 90 % über simples Copy-Paste direkt in den Chat. Und genau dieses Einfügen von Text sieht eine Netzwerk-Firewall nicht.
Welche KI-Dienste lassen sich steuern?
Über die Kategorie „Generative AI“ deckt die Firewall die gängigen Dienste ab. Typische Beispiele:
| Dienst | Anbieter |
|---|---|
| ChatGPT | OpenAI |
| Gemini | |
| Copilot | Microsoft |
| Claude | Anthropic |
| Perplexity | Perplexity AI |
| DeepSeek | DeepSeek |
So wird es konfiguriert (in Kürze)
- Signaturstand prüfen (Application-/IPS-Signaturen aktuell).
- Über CASB / Control Center zunächst Sichtbarkeit gewinnen und beobachten.
- TLS-/SSL-Inspektion sicherstellen, damit verschlüsselter Verkehr erkannt wird.
- Einen Application-Filter mit der Kategorie „Generative AI“ anlegen und Aktionen festlegen.
- Den Filter benutzer- bzw. gruppenbasiert einer Firewall-Regel zuweisen.
- Nutzung über Reporting und Log-Viewer laufend auswerten.
Ein bewährter Ansatz ist die Whitelist-Strategie: die Kategorie grundsätzlich blockieren und nur die freigegebenen, dienstlich genutzten KI-Werkzeuge gezielt erlauben.
Ehrlich gesagt: Wo die Firewall an Grenzen stößt
Wichtig für realistische Erwartungen Eine Firewall kontrolliert nur den Verkehr, der durch sie hindurchläuft. Im Homeoffice, im Mobilfunknetz oder auf privaten Geräten greift die Regel nicht. Sie blockiert in der Regel einen Dienst, nicht ein einzelnes Konto. Und das größte Datenleck – Copy-Paste – ist für sie unsichtbar.
Für genau diese Lücken – Copy-Paste, private Geräte, Nutzung außerhalb des Netzwerks – ergänzt Sophos die Firewall um die browserbasierte Workspace Protection. Sie setzt direkt im Browser an, wirkt geräteübergreifend (innerhalb und außerhalb des Firmennetzes) und kann mit Datengrenzkontrollen auch Kopieren, Einfügen sowie Datei-Uploads in KI-Tools steuern. So schließt sich der Kreis: Die Firewall verschafft Sichtbarkeit und sperrt Dienste im Netzwerk; die Workspace Protection deckt den Rest ab.
Lesetipp – Teil 2 dieser Serie (erscheint in Kürze) Wie Sophos Workspace Protection diese Lücke konkret schließt – Schutz direkt im Browser, geräteübergreifend und mit Datengrenzkontrollen, die auch Copy-Paste erfassen – lesen Sie im Folgebeitrag „Shadow AI sicher nutzen: Wie Sophos Workspace Protection die Lücke der Firewall schließt“.
Technik allein reicht nicht: Mitarbeitende sensibilisieren
Der Fall Samsung zeigt es deutlich – die Vorfälle entstanden nicht durch Böswilligkeit, sondern durch fehlendes Bewusstsein. Technische Kontrollen wirken am besten zusammen mit klaren Regeln und Aufklärung:
- Eine verständliche KI-Nutzungsrichtlinie, die klarstellt, welche Tools erlaubt sind und welche Daten niemals in öffentliche KI gehören.
- Eine freigegebene, sichere Alternative anbieten – wer ein gutes, genehmigtes Werkzeug hat, weicht seltener auf private Konten aus.
- Regelmäßige, praxisnahe Awareness-Schulungen mit echten Beispielen statt abstrakter Verbote.
- Einen einfachen Weg, Fragen zu stellen und unklare Fälle zu melden.
Fazit
Shadow AI lässt sich nicht per Knopfdruck „abschalten“ – aber sehr wohl sichtbar machen und wirksam eindämmen. Die Sophos Firewall ist dafür der richtige erste Schritt: Sie zeigt, welche KI-Dienste genutzt werden, und sperrt nicht freigegebene Dienste im Netzwerk. Kombiniert mit der browserbasierten Workspace Protection für Copy-Paste und private Geräte, klaren Richtlinien und sensibilisierten Mitarbeitenden entsteht ein tragfähiger Schutz – einer, der produktive KI-Nutzung erlaubt, ohne die Kontrolle über die eigenen Daten zu verlieren.
Bereit, den nächsten Schritt zu gehen?
Sprechen Sie mit unseren Experten – wir finden gemeinsam die passende Lösung für Ihre IT.