Darf man Kundendaten in ChatGPT eingeben?

Die kurze Antwort lautet: nicht ungeprueft. Wer Kundendaten in ChatGPT eingeben will, sollte das weder spontan noch aus Bequemlichkeit tun. Zulaessig ist so etwas im Unternehmenskontext nur unter klaren internen Regeln, abhaengig von Datenkategorie, Tool-Konfiguration, Vertragslage und Freigabeprozess. Bei frei zugaenglichen, offenen KI-Tools ist die rote Linie in der Praxis meist deutlich strenger als viele Teams annehmen.

Wichtig ist ausserdem die Einordnung: Dieser Beitrag bietet praxisnahe Orientierung fuer Geschaeftsfuehrung, Fachbereiche und Datenschutz. Er ersetzt keine Rechtsberatung und keine Einzelfallpruefung. Ziel ist eine einfache, alltagstaugliche Entscheidungshilfe: rote Linien statt Angst.

Kundendaten in ChatGPT eingeben: Wo die eigentliche Verwechslungsgefahr liegt

Viele Diskussionen laufen deshalb schief, weil drei Dinge durcheinandergeraten: das konkrete Tool, die technische Konfiguration und die Daten selbst. Ob man Kundendaten in ChatGPT eingeben darf, haengt nicht nur vom Namen des Anbieters ab, sondern auch davon, ob Mitarbeitende ein offenes Consumer-Tool nutzen oder ein freigegebenes Unternehmens-Setup mit vertraglich geregelter Umgebung.

Ein frei zugaenglicher Account ist etwas anderes als eine businessseitig freigegebene Umgebung mit geregelten Rollen, dokumentierter Nutzung, abgestimmter Datenschutzpruefung und klaren Vorgaben zur Dateneingabe. Auch dann gilt aber nicht automatisch Gruen. Denn selbst in einer Unternehmensumgebung bleiben personenbezogene, vertrauliche oder kundenspezifisch rueckfuehrbare Inhalte heikel.

Zwischenfazit: Die richtige Frage lautet meist nicht nur „Darf man ChatGPT nutzen?“, sondern „Welche Daten duerfen in welches Tool unter welchen Bedingungen?“.

Kundendaten in ChatGPT eingeben: Eine einfache Ampellogik fuer den Alltag

Fuer den Alltag hilft keine juristische Abhandlung, sondern eine robuste 3-Zonen-Logik.

Gruen: unkritische, fiktive oder abstrahierte Inhalte

Hier geht es um Inhalte ohne Personenbezug und ohne Vertraulichkeit. Beispiel: „Erstelle aus diesem fiktiven Beispiel eine freundlichere Antwortvorlage fuer Reklamationen.“ Solche Anfragen lassen sich in vielen Unternehmen relativ unkompliziert freigeben, sofern das Tool grundsaetzlich erlaubt ist.

Gelb: nur nach Pruefung und mit wirksamer Abstraktion

Diese Zone betrifft strukturierte Arbeitsfaelle, etwa Support-Zusammenfassungen, Reklamationsmuster oder haeufige Kundenfragen. Beispiel: „Fasse 20 Support-Faelle nach Kategorien zusammen.“ Das ist nur dann vertretbar, wenn Namen, Kontaktdaten, IDs, Vertragsnummern und andere rueckfuehrbare Details vorher entfernt oder wirksam abstrahiert wurden. Pseudonymisierung allein reicht nicht immer, wenn der Kontext eine Re-Identifikation ermoeglicht.

Rot: keine Eingabe

In diese Zone gehoeren direkte personenbezogene Daten, vertrauliche Vertragsinhalte, kundenspezifische Preislisten, unveroeffentlichte Angebotsdetails, Gesundheitsdaten, besondere Kategorien personenbezogener Daten, Zugangsdaten, interne Geheimhaltungsinhalte und sensible Eskalationsfaelle. Ein klares Negativbeispiel waere: „Bitte analysiere diese Kundenbeschwerde von Max Mustermann, Vertragsnummer 4711, inklusive E-Mail-Verlauf.“

Zwischenfazit: Wer Kundendaten in ChatGPT eingeben moechte, sollte zuerst die Datenklasse bestimmen. Ohne diese Vorpruefung entsteht fast automatisch Wildwuchs.

Welche Daten besonders kritisch sind und warum Einzelfelder taeuschen koennen

In der Praxis werden Risiken oft unterschaetzt, weil einzelne Datenfelder fuer sich genommen harmlos wirken. Eine Vorwahl, eine Branche, ein Ort, ein Auftragswert und ein Zeitstempel scheinen einzeln unproblematisch. In Kombination koennen sie jedoch ausreichen, um einen konkreten Kunden wiederzuerkennen. Genau deshalb ist die Unterscheidung zwischen anonymisiert, pseudonymisiert und direkt personenbezogen so wichtig.

Anonymisiert bedeutet, dass eine Person oder ein Unternehmen auch mit zusaetzlichem Wissen nicht mehr sinnvoll rueckfuehrbar ist. Das ist in der Praxis anspruchsvoller, als viele denken.

Pseudonymisiert bedeutet, dass direkte Kennzeichen entfernt oder ersetzt wurden, eine Rueckfuehrung aber grundsaetzlich moeglich bleibt. Fuer interne Analysen kann das hilfreich sein, fuer externe KI-Tools ist es noch keine automatische Freigabe.

Direkt personenbezogen sind etwa Name, E-Mail-Adresse, Telefonnummer, Kunden-ID, Vertragsnummer oder konkrete Beschwerdeverlaeufe. Solche Daten gehoeren ohne klare Rechtsgrundlage und definierte Freigabe in der Regel nicht in offene KI-Systeme.

Besonders kritisch sind ausserdem Daten mit hoher Vertraulichkeit: kundenspezifische Konditionen, laufende Vertragsverhandlungen, Due-Diligence-Unterlagen, sensible Personal- oder Gesundheitsinformationen sowie Inhalte aus NDAs.

Zwischenfazit: Nicht nur offensichtliche Personendaten sind problematisch. Auch Kombinationen aus scheinbar harmlosen Informationen koennen rueckfuehrbar sein.

Wann Unternehmen Freigaben brauchen und wer entscheiden sollte

Viele Teams wollen eine Ja-nein-Regel. Sinnvoller ist ein Freigabeprinzip nach Risiko. So bleibt die Nutzung moeglich, ohne dass jede Fachabteilung eigene Regeln erfindet.

Ein pragmatisches Modell sieht so aus:

• Fachbereich entscheidet ueber den fachlichen Zweck und prueft, ob ueberhaupt Echtdaten noetig sind.
• IT oder Informationssicherheit gibt die Tool-Kategorie frei, etwa offenes Web-Tool, businessseitig freigegebene SaaS-Umgebung oder interne Loesung.
• Datenschutz beurteilt risikobehaftete Konstellationen, insbesondere bei personenbezogenen, pseudonymisierten oder grenzwertigen Datensaetzen.
• Leitung oder Governance-Verantwortliche definieren rote Linien, Rollen und Eskalationswege verbindlich.

Eine einfache Freigabefrage fuer Teams lautet: Ist die Information personenbezogen, vertraulich oder kundenspezifisch rueckfuehrbar? Wenn ja, darf keine Eingabe ohne definierte Freigabe erfolgen.

Hilfreich ist zudem eine kurze Vorab-Checkliste:

• Brauche ich diese Daten wirklich?
• Kann ich sie abstrahieren oder durch ein Muster ersetzen?
• Ist das Tool fuer diesen Zweck freigegeben?
• Ist dokumentiert, wer die Nutzung erlaubt hat und wofuer?

Wer solche Regeln schriftlich verankern will, sollte eine KI-Richtlinie fuer Unternehmen nicht als Formalie behandeln, sondern als alltagstaugliches Steuerungsinstrument fuer Freigaben, Shadow AI und Eskalationen.

Die groessten Risiken: nicht nur Datenschutz, sondern auch Vertraulichkeit und Prozessfehler

Wenn Mitarbeitende ungeplant Kundendaten in ChatGPT eingeben, entsteht das Risiko nicht nur auf einer datenschutzrechtlichen Ebene. Mindestens ebenso relevant sind Vertraulichkeit, Kundenvertrauen und Prozessstabilitaet.

Erstens kann die Vertraulichkeit verletzt werden, wenn Vertragsinhalte, Preislogiken oder Reklamationsfaelle in unpassende Umgebungen gelangen. Zweitens leidet das Kundenvertrauen, wenn Unternehmen den Eindruck vermitteln, sensible Kommunikation ohne klare Leitplanken in externe Systeme zu kopieren. Drittens foerdert fehlende Steuerung Shadow AI: Teams bauen sich eigene Abkuerzungen, die weder dokumentiert noch abgestimmt sind. Viertens entstehen Prozessfehler, weil Antworten aus KI-Tools auf unvollstaendigen oder schlecht abstrahierten Daten beruhen koennen.

Deshalb sollte man nicht pauschal alles verbieten, aber auch nicht mit einem schnellen „wird schon passen“ arbeiten. Sinnvoll ist eine rechtlich informierte Umsetzung mit Leitplanken, Dokumentation und KI-Kompetenz im Sinne von Art. 4 des EU AI Act. Das ist keine Garantie, aber ein belastbarer Governance-Ansatz.

Fuer Unternehmen, die Regeln fuer den sicheren Alltag schaffen wollen, ist der Ueberblick zu KI im Unternehmen sicher nutzen der passende naechste Vertiefungspunkt.

Drei typische Praxisfaelle fuer Kundendaten in KI-Tools

Damit die Ampellogik nicht abstrakt bleibt, hilft der Blick auf typische Alltagssituationen. In vielen Unternehmen entstehen Risiken nicht durch boese Absicht, sondern durch Zeitdruck: Eine Beschwerde soll schneller beantwortet, ein Support-Fall zusammengefasst oder ein Angebot sprachlich verbessert werden. Genau dort braucht es einfache Regeln.

Praxisfall 1: Kundenbeschwerde formulieren

Ein sichererer Weg ist nicht, den kompletten E-Mail-Verlauf mit Namen, Vertragsnummer und Historie in ein offenes KI-Tool zu kopieren. Stattdessen erstellt der Fachbereich ein neutrales Muster: Welche Art von Beschwerde liegt vor, welche Tonalitaet ist gewuenscht, welche Loesung soll angeboten werden? Aus diesem fiktiven oder stark abstrahierten Beispiel kann eine Antwortvorlage entstehen, die anschliessend intern geprueft und mit den echten Falldaten ausserhalb des KI-Tools verbunden wird.

Praxisfall 2: Support-Faelle clustern

Bei der Auswertung vieler Support-Faelle ist die gelbe Zone schnell erreicht. Kategorien, Themenhaeufigkeiten und Prozessmuster koennen wertvoll sein. Kritisch wird es, wenn Namen, Kundennummern, Orte, Zeitpunkte und spezifische Sachverhalte gemeinsam uebernommen werden. Die bessere Vorgehensweise lautet: erst rueckfuehrbare Details entfernen, dann die Datenmenge abstrahieren, danach pruefen, ob das Tool und der Zweck freigegeben sind.

Praxisfall 3: Angebote oder Vertragsentwuerfe verbessern

Bei Angeboten, Preislisten mit kundenspezifischen Konditionen oder unveroeffentlichten Vertragsentwuerfen ist besondere Zurueckhaltung noetig. Selbst wenn keine direkte Person genannt wird, koennen vertrauliche Konditionen oder Projektinformationen betroffen sein. Fuer solche Inhalte sollte gelten: keine Eingabe in nicht freigegebene KI-Tools. Wenn ein Text sprachlich verbessert werden soll, kann ein neutrales Muster ohne Kundennamen, Konditionen und Rueckschluesse auf den konkreten Auftrag verwendet werden.

Zwischenfazit: In den meisten Faellen ist nicht die Nutzung von KI an sich das Problem, sondern die unkontrollierte Uebernahme echter, vertraulicher oder rueckfuehrbarer Kundendaten.

Was jetzt konkret zu tun ist, wenn noch keine Regeln existieren

Der pragmatische Einstieg ist einfacher, als viele vermuten. Unternehmen muessen nicht sofort ein umfassendes KI-Programm aufsetzen. Sie brauchen zuerst ein kleines, wirksames Set an Mindestmassnahmen.

• 1. Tool-Liste festlegen: Welche KI-Tools sind erlaubt, geduldet oder gesperrt?
• 2. Datenzonen definieren: Gruen, Gelb, Rot mit klaren Beispielen aus Vertrieb, Service und Verwaltung.
• 3. Freigaberollen benennen: Wer entscheidet bei Grenzfaellen?
• 4. Datenminimierung verankern: Erst Muster, dann Abstraktion, nur ausnahmsweise Echtdaten.
• 5. Nutzung dokumentieren: Wofuer wird das Tool eingesetzt, mit welcher Datenart und auf welcher Freigabebasis?
• 6. Teams sensibilisieren: Nicht mit Angst, sondern mit konkreten roten Linien.

Ein sicherer Alternativprozess sieht oft so aus: Der Fachbereich erstellt zunaechst ein Muster ohne Echtdaten. Danach geben Datenschutz und IT die Tool-Kategorie fuer den Zweck frei. Erst dann erfolgt die Nutzung auf Basis einer dokumentierten Richtlinie.

Zwischenfazit: Die beste Sofortmassnahme ist nicht das Totalverbot, sondern eine einfache Regel: Keine personenbezogenen oder vertraulichen Kundendaten in nicht freigegebene KI-Tools.

Nächster sinnvoller Schritt

Wenn Sie fuer Fachbereiche, Datenschutz und Leitung einfache Leitplanken fuer den KI-Alltag schaffen wollen, ist KI im Unternehmen sicher nutzen der passende naechste Schritt. Dort geht es nicht um pauschale Versprechen, sondern um strukturierte Orientierung, Rollen, Freigaben und dokumentierbare Mindestregeln.

Quellen und fachliche Orientierung

• Verordnung (EU) 2024/1689 zum EU AI Act auf EUR-Lex
• IHK Reutlingen: Urheberrecht und Datenschutz bei Chat GPT
• eRecht24: Ist ChatGPT datenschutzkonform nutzbar?
• INREMA: KI und DSGVO – Kundendaten in ChatGPT? Was erlaubt ist
• EDPB: Leitlinien und Orientierung zur Verarbeitung personenbezogener Daten im KI-Kontext
• BfDI: FAQ zu Kuenstlicher Intelligenz und Datenschutz

Hinweis: Dieser Beitrag bietet fachliche Orientierung fuer die Praxis. Die Bewertung konkreter Anwendungsfaelle, Rechtsgrundlagen, AV-Vertraege oder Drittlandfragen sollte intern mit Datenschutz, IT und gegebenenfalls juristischer Beratung geprueft werden.

Autor: Niklas Entenmann