KI-Datenschutz im Unternehmen: Was darf in den Chat?

Beim KI-Datenschutz im Unternehmen richten die meisten ihre Sorge auf die falsche Stelle. Diskutiert wird, ob „die KI“ heimlich mithört oder ob ChatGPT überhaupt DSGVO-konform sein kann. Das eigentliche Risiko sitzt woanders: im privaten Gratis-Account, in den ein Mitarbeiter mal eben eine Kundenliste kopiert, um sie „schnell zusammenfassen“ zu lassen. Nicht die Technik ist das Problem, sondern die unkontrollierte Nutzung. Und genau die lässt sich mit vier Bausteinen – Business-Version, Auftragsverarbeitungsvertrag, Richtlinie und Schulung – sauber in den Griff bekommen.

Das eigentliche Risiko heißt Schatten-KI

Fragen Sie sich nicht, ob in Ihrem Betrieb private KI-Accounts im Einsatz sind – fragen Sie sich, wie viele. Laut der Bitkom-KI-Studie 2026 ist die Nutzung privater KI-Zugänge für die Arbeit in 8 Prozent der Unternehmen verbreitet, in weiteren 17 Prozent kommt sie in Einzelfällen vor, und noch einmal 17 Prozent vermuten sie zumindest. Zusammengerechnet geht also gut jedes vierte bis fünfte Unternehmen sicher – und mit den Vermutungen rund vier von zehn – davon aus, dass Beschäftigte KI an der IT vorbei nutzen. Regeln dafür haben aber nur 23 Prozent aufgestellt.

Das ist Schatten-KI, und sie ist kein Zeichen von Illoyalität, sondern von Bedarf: Ihre Leute greifen zu KI, weil sie ihnen Arbeit abnimmt. Das Problem ist nicht der Griff zum Werkzeug, sondern dass er im rechtsfreien Raum passiert – im Zweifel mit echten Kunden-, Personal- oder Gesundheitsdaten in einem Account, der diese Eingaben fürs Training weiterverwenden darf. Wer Schatten-KI ignoriert, hat das Datenschutzrisiko nicht abgestellt, sondern nur aus dem Blick verloren.

Welches KI-Tool was mit Ihren Daten macht (Stand 2026)

Ob ein KI-Tool datenschutzkonform genutzt werden kann, entscheidet fast nie der Name des Anbieters, sondern die konkrete Version und deren Konfiguration. Der Unterschied zwischen „kostenlos privat“ und „Business“ ist beim Datenschutz kein gradueller, sondern ein grundsätzlicher. Die folgende Übersicht zeigt den Stand 2026:

Tool / Tarif	Training auf Ihren Eingaben	AVV & Nachweis	Für personenbezogene Daten
ChatGPT Free / Plus / Pro	standardmäßig ja (Opt-out möglich)	kein AVV	ungeeignet
ChatGPT Business / Enterprise	nein, „by default“ kein Training	AVV, SOC 2 (Enterprise: EU-Datenresidenz)	geeignet, richtig konfiguriert
Claude Free / Pro / Max	seit 2025 standardmäßig ja (Opt-out)	kein AVV	ungeeignet
Claude for Work / API	nein	AVV	geeignet
Microsoft 365 Copilot	nein (kein Training auf Firmendaten)	DPA, EU Data Boundary	geeignet, Achtung Oversharing

Zwei Dinge fallen auf. Erstens: Kostenlose und private Tarife nutzen Ihre Eingaben in der Regel standardmäßig zum Training – bei ChatGPT ebenso wie inzwischen bei Claude, das sein Vorgehen 2025 umgestellt hat und Consumer-Chats seither standardmäßig fürs Training verwendet (Opt-out möglich; bei aktivem Training bis zu fünf Jahre Aufbewahrung statt 30 Tage). Prüfen Sie beim KI-Datenschutz deshalb immer den aktuellen Stand des jeweiligen Anbieters. Zweitens: Die Business- und Enterprise-Varianten trainieren „by default“ nicht auf Ihren Daten, bieten einen Auftragsverarbeitungsvertrag und sind zertifiziert (SOC 2, Stand OpenAI Enterprise Privacy Anfang 2026). ChatGPT Business hieß bis August 2025 übrigens „ChatGPT Team“ – gemeint ist dieselbe Lizenz. Für ChatGPT Enterprise bietet OpenAI seit Anfang 2026 zusätzlich EU-Datenresidenz an, lässt Inhalte also im EWR speichern.

Ein Sonderfall ist Microsoft 365 Copilot: Es trainiert nicht auf Ihren Unternehmensdaten und bleibt innerhalb der EU Data Boundary. Das reale Risiko liegt hier nicht im Training, sondern im Inneren Ihres Hauses. Copilot sieht alles, worauf der jeweilige Nutzer laut Berechtigungen Zugriff hat – und macht damit jede über Jahre gewachsene Unordnung in der Dokumentenablage schlagartig sichtbar. Wo bisher niemand die falsch freigegebene Gehaltsliste im Nachbarordner gefunden hat, findet Copilot sie auf Zuruf.

Die Praxisregel: Was niemals in einen Gratis-Chat gehört

Sie müssen sich für den Alltag keine juristische Prüfung merken, sondern eine einzige Linie ziehen. In einen privaten oder kostenlosen KI-Account gehören folgende Daten unter keinen Umständen:

• Kundendaten – Namen, Adressen, Aufträge, alles Personenbezogene von außen.
• Mitarbeiter- und Bewerberdaten – von der Krankmeldung bis zum Lebenslauf.
• Gesundheitsdaten – eine besonders geschützte Datenkategorie; hier ist die Schwelle am höchsten.
• Geschäftsgeheimnisse – Kalkulationen, Verträge, Rezepturen, Quellcode.
• Zugangsdaten – Passwörter, Schlüssel und Tokens haben in keinem Chatfenster etwas verloren.

Die Faustregel dahinter: Alles, was Sie einem fremden Dienstleister nicht ohne Vertrag per E-Mail schicken würden, gehört auch nicht ungeschützt in ein KI-Chatfenster.

Drei Mythen, die teuer werden können

„Meine Chats sieht doch keiner“

Bei kostenlosen Consumer-Accounts ist das Gegenteil der Standard. Ihre Eingaben werden dort in der Regel zum Training der Modelle weiterverwendet – das ist heute die Voreinstellung, nicht die Ausnahme. Wie schnell sich so etwas dreht, zeigt Claude: Bis 2025 wurde dort nicht auf Consumer-Chats trainiert, seit der Umstellung ist es standardmäßig an. Wer seine Datenschutzeinschätzung auf einen Stand von vor einem Jahr stützt, liegt heute womöglich falsch.

„Ein Opt-out reicht für die DSGVO“

Nein. Das Training abzuschalten ist sinnvoll, aber es ersetzt weder einen Auftragsverarbeitungsvertrag noch eine Rechtsgrundlage für die Verarbeitung. Sobald Sie personenbezogene Daten in ein KI-Tool geben, verarbeitet der Anbieter sie in Ihrem Auftrag – und dafür verlangt Art. 28 DSGVO einen Vertrag. Ein Häkchen im Kontomenü ist kein Vertrag.

„Copilot ist automatisch sicher“

Auch das stimmt nicht ohne Weiteres. Copilot löst das Trainingsproblem, aber es erbt Ihr Berechtigungschaos. Wenn Ordnerfreigaben über Jahre großzügig vergeben wurden, macht Copilot diese Lücken erst richtig nutzbar. Datenschutz mit Copilot beginnt deshalb nicht bei Microsoft, sondern bei Ihren eigenen Zugriffsrechten.

Was Sie konkret tun sollten

Der Weg von der Schatten-KI zur sauberen Nutzung ist kürzer, als viele denken. Vier Bausteine genügen für ein solides Fundament:

1. Business- statt Privat-Lizenzen. Statten Sie alle, die KI beruflich nutzen, mit einer Business- oder Enterprise-Version aus, die „by default“ nicht auf Ihren Daten trainiert. Das ist die Grundlage, auf der alles Weitere aufsetzt.
2. Auftragsverarbeitungsvertrag (AVV). Schließen Sie mit jedem KI-Anbieter, der personenbezogene Daten verarbeitet, einen AVV nach Art. 28 DSGVO. Die Business- und Enterprise-Angebote sehen ihn vor – Consumer-Tarife nicht.
3. Eine interne KI-Richtlinie. Eine Seite reicht: Welche Tools sind freigegeben, was darf hinein, was nie, wer ist Ansprechpartner. Diese eine Seite verwandelt Schatten-KI in geregelte Nutzung.
4. Dokumentierte Schulung. Seit Februar 2025 verlangt Art. 4 der KI-Verordnung (AI Act) von jedem Betrieb, der KI einsetzt, ein nachweisbares Mindestmaß an KI-Kompetenz bei den Beschäftigten. Die Schulung ist also ohnehin Pflicht – nutzen Sie sie, um gleich die Datenschutzregeln mitzugeben.

Ein Punkt kommt hinzu, sobald Sie KI im direkten Kundenkontakt einsetzen: Ab dem 2. August 2026 gelten die Transparenzpflichten des AI Act (Art. 50). Wer einen KI-Chatbot mit Kunden sprechen lässt, muss offenlegen, dass es sich um KI handelt. Als fachliche Orientierung für die datenschutzrechtliche Bewertung dient die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ der Datenschutzkonferenz (DSK) – die gemeinsame Linie der deutschen Aufsichtsbehörden.

Keiner dieser vier Bausteine ist teuer oder kompliziert. Teuer wird die Alternative: KI im Betrieb laufen zu lassen und darauf zu hoffen, dass schon nichts Sensibles im falschen Account landet. Hoffnung ist keine Datenschutzstrategie.