Zum Hauptinhalt springen
← Blog

IT-Sicherheit

Die Kundendaten liegen jetzt bei ChatGPT

Ein Vertrag, schnell zusammengefasst. Ein Kundendatensatz, kurz aufbereitet. Was wie eine praktische Abkürzung aussieht, landet oft in einem privaten KI-Konto, das die IT nie freigegeben hat. Warum ein Verbot allein das Problem eher verschärft — und was tatsächlich hilft.

Ein Vertrag soll schnell zusammengefasst werden, ein Kundendatensatz kurz aufbereitet. Der schnellste Weg dorthin ist für viele Mitarbeitende ein privates KI-Konto — nicht aus Nachlässigkeit, sondern weil es funktioniert und niemand eine Alternative genannt hat. Genau das macht Schatten-KI zu einem Thema, das inzwischen in fast jedem Unternehmen existiert, ob die IT davon weiß oder nicht.

Der Unterschied, der zählt: privates oder Firmenkonto

Bei einem kostenlosen oder privaten ChatGPT-Konto ist die Nutzung von Eingaben zum Training des Modells standardmäßig aktiv — abschaltbar, aber eben nicht der Grundzustand. Bei ChatGPT Team, Enterprise oder über die API ist Training standardmäßig deaktiviert; der Unterschied zwischen diesen Stufen liegt vor allem im vertraglichen Rahmen, nicht im Trainingsgrundsatz selbst. Bei Microsoft 365 Copilot sind Eingaben, Antworten und die zugrunde liegenden Firmendaten vertraglich vom Training der Basismodelle ausgeschlossen, verschlüsselt und mandantengetrennt — mit einer Ausnahme: Web-Suchanfragen über Bing folgen eigenen, separaten Datenregeln. Wichtig ist dabei: "nicht trainiert" bedeutet nicht "nicht gespeichert" — zur Missbrauchsprüfung werden Daten in jedem Fall verarbeitet.

Warum das datenschutzrechtlich ein Unterschied ist

Ohne Auftragsverarbeitungsvertrag mit dem Anbieter — beim privaten Konto der Regelfall — gibt es keine vertragliche Kontrolle über Zweckbindung, Löschfristen oder eingebundene Subunternehmer. Bei Enterprise-Tools besteht ein solcher Vertrag. Die österreichische Datenschutzbehörde stellt dazu klar: Sobald ein Unternehmen über Zweck und Mittel der Verarbeitung entscheidet, ist es datenschutzrechtlich verantwortlich — unabhängig davon, ob es das KI-Tool selbst entwickelt hat oder nur nutzt.

Ein Verbot löst das Problem meistens nicht

Ein pauschales Verbot ändert vor allem, ob die Nutzung sichtbar ist — nicht zwingend, ob sie stattfindet. Wo keine freigegebene Alternative existiert, wandert die Nutzung auf private Geräte und private Konten, wo sie noch weniger nachvollziehbar ist als vorher.

Der Fall, der das Thema bekannt gemacht hat

Samsung untersagte die Nutzung von ChatGPT unternehmensweit, nachdem Halbleiter-Ingenieure innerhalb von 20 Tagen im März 2023 in drei getrennten Vorfällen internen Datenbank-Quellcode, einen Fehlererkennungs-Algorithmus und ein Meeting-Transkript in das Tool eingaben, um sich Arbeit zu erleichtern. Keiner der Mitarbeitenden handelte dabei böswillig — alle wollten schlicht schneller fertig werden.

Ein Verbot entscheidet, ob die Nutzung sichtbar ist. Nicht, ob sie stattfindet.

Was tatsächlich hilft

  1. Eine freigegebene Tool-Liste statt eines Pauschalverbots

    Wer festlegt, welche Tools erlaubt sind, statt alle zu verbieten, hält die Nutzung sichtbar und steuerbar.

  2. Ein Enterprise-Abo mit echtem Vertrag

    Für Tools, die ohnehin genutzt werden wollen, schließt ein Business- oder Enterprise-Zugang mit Auftragsverarbeitungsvertrag die größte Lücke — ohne dass Mitarbeitende auf ihre gewohnten Werkzeuge verzichten müssen.

  3. Eine kurze, schriftliche Nutzungsrichtlinie

    Was erlaubt ist und was nie hineingehört — Kundendaten, Gesundheitsdaten, unveröffentlichte Finanzzahlen, Zugangsdaten und API-Schlüssel — passt auf eine Seite und ist wirksamer als ein langes Regelwerk, das niemand liest.

  4. Schulung zu genau diesen Datenkategorien

    Nicht KI-Nutzung allgemein verteufeln, sondern konkret benennen, welche Daten in kein öffentliches Tool gehören.

Der Bezug zu NIS2

Das NISG 2026 verlangt unter anderem Risikomanagement entlang der Lieferkette. Eine KI-Nutzungsrichtlinie — Kontrolle darüber, welche externen Tools mit welchen Daten arbeiten — passt zum Geist dieser Anforderung, ohne dass es dafür eine eigene, ausdrückliche NIS2-Klausel gäbe. Wer sich ohnehin mit der Meldepflicht ab Oktober auseinandersetzt, sollte diesen Punkt in derselben Runde mitbehandeln.

Diese Art von Richtlinie und die technische Absicherung dahinter gehören zu dem, was Protect an Schutzschichten über Manage legt. Wenn Sie nicht wissen, welche KI-Tools in Ihrem Unternehmen bereits im Einsatz sind — offiziell oder nicht: Das ist eine gute erste Frage für ein kurzes Gespräch.

Quellen

Häufige Fragen

Was dazu am häufigsten gefragt wird

Ist ein Komplettverbot nicht die einfachste Lösung?

Auf dem Papier ja, in der Praxis meist nicht. Ein Verbot verschiebt die Nutzung häufig nur auf private Geräte und Konten, wo sie für die IT noch weniger sichtbar ist als vorher.

Was ist der eigentliche Unterschied zwischen ChatGPT privat und Microsoft Copilot?

Vor allem der vertragliche Rahmen: Ein Enterprise-Tool schließt Training mit Kundendaten vertraglich aus und läuft über einen Auftragsverarbeitungsvertrag mit Mandantentrennung. Ein privates Konto trainiert standardmäßig mit den Eingaben und bietet keine solche vertragliche Kontrolle.

Merkt unsere IT, wenn jemand ein privates KI-Konto nutzt?

Teilweise. Der Zugriff auf die Domain lässt sich meist erkennen, die Unterscheidung zwischen privatem und freigegebenem Firmenkonto auf derselben Domain gelingt Standard-Sicherheitsgateways in der Regel nicht zuverlässig.

Ist eine KI-Nutzungsrichtlinie eine NIS2-Pflicht?

Nicht als eigene, ausdrückliche Klausel. Sie passt aber zum Geist der NIS2-Anforderungen an Risikomanagement und Lieferkettensicherheit und lässt sich sinnvoll in dieselbe Bestandsaufnahme integrieren.