Darf ich Kundendaten in ChatGPT & Co. eingeben?

Ein Kunde schickt eine lange Mail. Schnell in ChatGPT kopieren, Antwort entwerfen lassen, fertig – das ist verlockend. Doch sobald in dem Text personenbezogene Daten stehen, gilt die Datenschutz-Grundverordnung (DSGVO). Dieser Beitrag nennt die Grundregeln. Er ist ein Überblick und keine Rechtsberatung.

Was zählt als personenbezogen?

Alles, was sich auf eine identifizierbare Person bezieht: Name, Adresse, E-Mail, Telefonnummer, Kundennummer, aber auch Fotos, Vertragsdetails oder Beschwerden, die eine Person erkennen lassen. Schon der Name in einer E-Mail reicht aus.

Die Grundfragen vor jeder Eingabe

1. Habe ich eine Rechtsgrundlage?

Die Verarbeitung muss nach Artikel 6 DSGVO erlaubt sein. Beim Einsatz von KI-Tools kommt häufig nur das berechtigte Interesse (Art. 6 Abs. 1 lit. f) in Betracht; dafür müssen Sie Ihr Interesse gegen die Interessen der betroffenen Person abwägen. Die Vertragserfüllung trägt die Eingabe in ein KI-Tool in der Regel nicht, weil sie dafür „erforderlich“ sein müsste. Außerdem muss der neue Zweck mit dem Zweck vereinbar sein, für den Sie die Daten ursprünglich erhalten haben (Art. 5 Abs. 1 lit. b, Art. 6 Abs. 4 DSGVO). Das ist im Einzelfall zu prüfen.

2. Gibt es einen Auftragsverarbeitungsvertrag?

Wenn ein Dienstleister Daten in Ihrem Auftrag verarbeitet, verlangt Artikel 28 DSGVO in der Regel einen Auftragsverarbeitungsvertrag (AVV). Viele Anbieter stellen ihn für Geschäftskunden bereit; bei kostenlosen Privatversionen gibt es ihn meist nicht. Ohne AVV, etwa in Privatversionen, verarbeitet der Anbieter die Daten nach seinen Bedingungen in der Regel in eigener Verantwortung, oft auch für eigene Zwecke wie das Training; Kundendaten gehören dann nicht hinein. Auch bei Geschäftstarifen müssen Sie den AVV häufig selbst abschließen oder in der Verwaltung akzeptieren. Prüfen Sie die Angaben des Anbieters.

3. Wo werden die Daten verarbeitet?

Werden Daten in Länder außerhalb der EU übermittelt, gelten zusätzliche Anforderungen (Kapitel V DSGVO). Die Datenschutzerklärung und die Vertragsunterlagen des Anbieters geben Auskunft über Standorte und Garantien. Bei US-Anbietern kommt es unter anderem darauf an, ob sie unter dem EU-US Data Privacy Framework zertifiziert sind oder andere Garantien, etwa Standardvertragsklauseln, vereinbart wurden. Der Angemessenheitsbeschluss der EU-Kommission für das Data Privacy Framework gilt weiterhin. Das Gericht der EU hat eine Klage dagegen im September 2025 abgewiesen (Rechtssache T-553/23); über das Rechtsmittel entscheidet der Europäische Gerichtshof, ein Urteil liegt nach unserem Stand (Oktober 2026) noch nicht vor. Die Lage kann sich also ändern.

4. Werden meine Eingaben zum Training genutzt?

Je nach Anbieter und Tarif können Eingaben zur Verbesserung der Modelle verwendet werden, wenn das nicht abgeschaltet ist. Lesen Sie die Einstellungen und Bedingungen Ihres Tarifs; die Zusagen unterscheiden sich zwischen Anbietern und können sich ändern.

5. Habe ich die Betroffenen informiert?

Die Datenschutzerklärung muss beschreiben, wofür Sie Daten verarbeiten und an welche Empfänger oder Kategorien von Empfängern sie gehen (Artikel 13 und 14 DSGVO). Setzen Sie KI-Dienste ein, gehört das gegebenenfalls dazu.

Business-Tarife: hilfreich, aber kein Freifahrtschein

Geschäftliche Tarife bieten häufig bessere Voraussetzungen: AVV, Verzicht auf Training mit Ihren Eingaben, administrative Kontrollen. Sie ersetzen aber nicht Ihre eigene Prüfung. Auch dort bleibt Ihr Betrieb für die Rechtmäßigkeit verantwortlich.

Besonders sensibel

• Gesundheitsdaten und andere besondere Kategorien (Artikel 9 DSGVO) unterliegen strengeren Regeln.
• Berufsgeheimnisträger wie Praxen, Anwälte oder Steuerberater unterliegen zusätzlich Schweigepflichten (zum Beispiel § 203 StGB). Das Weitergeben von Mandanten- oder Patientendaten an KI-Dienste ist nur mit sorgfältiger rechtlicher Absicherung vertretbar (§ 203 Abs. 3 und 4 StGB erlauben die Einbindung von Dienstleistern nur unter bestimmten Voraussetzungen, etwa mit Verpflichtung zur Verschwiegenheit); ohne diese ist es hochproblematisch.
• Personalakten und Bewerbungen gehören ebenfalls nicht unbedacht in Chat-Fenster.

Praktische Grundregeln für den Alltag

1. Daten weglassen: Fragen Sie, was die KI wirklich braucht. Oft genügt der Sachverhalt ohne Namen.
2. Platzhalter nutzen: „Kunde A“ statt Klarname, „[Ort]“ statt Adresse.
3. Keine Zugangsdaten und Geschäftsgeheimnisse in öffentliche Chat-Tools.
4. Nur freigegebene Tools: Legen Sie fest, welche Dienste im Betrieb genutzt werden dürfen.
5. Kurze Richtlinie schreiben: Eine Seite genügt: erlaubte Tools, verbotene Eingaben, Ansprechperson.
6. Ergebnisse prüfen: KI-Texte können Fehler enthalten, bevor sie an Kunden gehen.
7. Verarbeitungsverzeichnis und Datenschutzerklärung bei Bedarf ergänzen.

Orientierung durch Behörden

Die Datenschutzkonferenz (DSK) und Landesdatenschutzbehörden haben Orientierungshilfen zum Einsatz von KI veröffentlicht, etwa die Orientierungshilfe „Künstliche Intelligenz und Datenschutz“ (Mai 2024) und Hinweise zu technischen und organisatorischen Maßnahmen (Juni 2025). Der Landesbeauftragte für Datenschutz Baden-Württemberg hat ein Diskussionspapier zu Rechtsgrundlagen beim KI-Einsatz veröffentlicht. Auch das BSI informiert zu Risiken. Die Verlinkungen finden Sie unten bei den Quellen.

Fazit

Die Antwort lautet nicht „nie“, sondern „mit Plan“: Rechtsgrundlage klären, Vertrag prüfen, Daten sparsam einsetzen, Regeln aufschreiben. Wie das praktisch aussehen kann, vermitteln wir im Kurs zu EU AI Act und DSGVO der KI-Akademie; bei der Auswahl von Werkzeugen unterstützt die KI-Beratung. Die rechtliche Bewertung im Einzelfall übernehmen Fachleute für Datenschutzrecht.