News

ChatGPT Datenschutz: DSGVO, Training, Firmen

· DigifyNow

Read in English

Alles, was Sie in ChatGPT eintippen, geht an die Server von OpenAI, wird dort verarbeitet und als Chatverlauf gespeichert. Bei privaten Konten darf OpenAI die Inhalte standardmäßig zum Training nutzen, außer Sie schalten das ab. Sobald personenbezogene Daten dabei sind, verlangt die DSGVO von Firmen eine Rechtsgrundlage, einen Auftragsverarbeitungsvertrag und eine Prüfung der Übermittlung in die USA. Personenbezogenes gehört deshalb nur in Business- oder API-Zugänge mit Vertrag und nie in ein Privatkonto.

Was passiert mit Daten, die man in ChatGPT eingibt?

ChatGPT läuft nicht auf Ihrem Rechner. Jede Eingabe geht zusammen mit hochgeladenen Dateien an die Server von OpenAI. Dort verarbeitet das Modell sie, und die Antwort kommt zurück. Der Verlauf bleibt im Konto gespeichert, bis Sie ihn löschen. Für den Datenschutz zählen deshalb drei Fragen: Wer bekommt die Daten zu sehen, wofür werden sie genutzt und wo werden sie verarbeitet?

Der Knackpunkt ist das Training. Google fasst den Stand in seiner KI-Übersicht zu dieser Suche so zusammen: Bei privaten Konten nutzt OpenAI Eingaben und Chatverläufe standardmäßig, um künftige Modelle zu trainieren. Ist ein Modell erst einmal trainiert, lassen sich einzelne Daten nicht gezielt wieder herausholen. Den zweiten Punkt nennt dieselbe Übersicht auch: Die Verarbeitung läuft auf Servern in den USA. Für Unternehmen gelten damit die Regeln der DSGVO für Übermittlungen in Drittländer.

Wer Daten überhaupt nicht an einen fremden Server geben will, hat nur einen Weg: das Modell selbst zu betreiben. Wie das geht und wo die Grenzen liegen, steht in unserem Beitrag zu KI lokal betreiben mit Hardware und Grenzen.

Illustration zur Frage „Was passiert mit Daten, die man in ChatGPT eingibt?“
KI-generiertes Bild

Privatkonto, Business oder API: Was unterscheidet die Zugänge beim Datenschutz?

Je nach Zugang stehen hinter „ChatGPT“ ganz unterschiedliche Verträge. Beim Datenschutz zählt das mehr als das Modell, das dahinter läuft. Die Tabelle stellt für jeden Zugang dieselben Eigenschaften nebeneinander und richtet sich nach der Dokumentation von OpenAI. Die Regeln zum Umgang mit Daten bei der API stehen in der Entwicklerdokumentation unter https://developers.openai.com. Verträge und Voreinstellungen ändert der Anbieter immer wieder, deshalb sollten Sie vor dem Abschluss noch einmal nachsehen.

Stand: November 2026. Angaben laut OpenAI, vor Vertragsschluss in der aktuellen Dokumentation prüfen.
ZugangTraining mit EingabenAuftragsverarbeitungsvertragZentrale Steuerung durch die Firma
Privates Konto (kostenlos oder bezahlter Einzeltarif)Standardmäßig ja, Nutzer kann widersprechenAls Firmenvertrag nicht vorgesehenKeine: Jeder Mitarbeiter stellt selbst ein
ChatGPT Business bzw. EnterpriseStandardmäßig neinBietet OpenAI Geschäftskunden anJa: Nutzerverwaltung im Workspace
API (Anbindung an eigene Software)Standardmäßig neinBietet OpenAI Geschäftskunden anJa: Die eigene Anwendung legt fest, welche Daten überhaupt gesendet werden

Was ein Business-Workspace kostet und welche DSGVO-Fragen danach noch offen sind, steht in unserem Beitrag zu ChatGPT Business, Kosten und Tarifwahl. Wie sich ein anderer Anbieter bei denselben Fragen verhält, zeigt der Vergleich Claude vs ChatGPT.

ChatGPT Datenschutz im Unternehmen: Was die DSGVO verlangt

Im Betrieb ist ChatGPT nicht verboten. Sobald aber personenbezogene Daten in einen Prompt geraten, also Namen, E-Mail-Adressen, Kundennummern oder ein Lebenslauf, greifen die Pflichten der DSGVO. Verantwortlich ist dann das Unternehmen und nicht der einzelne Mitarbeiter. Vor dem Einsatz müssen diese Punkte geklärt sein:

  1. Rechtsgrundlage: Für welchen Zweck werden die Daten verarbeitet, und worauf stützt sich das, zum Beispiel auf die Erfüllung eines Vertrags oder ein berechtigtes Interesse?
  2. Auftragsverarbeitungsvertrag mit dem Anbieter: Solange es keinen gibt, haben personenbezogene Daten im Tool nichts zu suchen.
  3. Übermittlung in die USA: Auf welcher Grundlage gehen die Daten dorthin, etwa über einen Angemessenheitsbeschluss der EU-Kommission oder über Standardvertragsklauseln?
  4. Besonders geschützte Daten wie Gesundheitsangaben, Gewerkschaftszugehörigkeit oder religiöse Überzeugung: Für sie setzt die DSGVO deutlich engere Grenzen.
  5. Dokumentation: einen Eintrag im Verzeichnis der Verarbeitungstätigkeiten anlegen und die Datenschutzhinweise für Kunden und Beschäftigte anpassen.
  6. Datenschutz-Folgenabschätzung, wenn die Verarbeitung voraussichtlich ein hohes Risiko birgt, zum Beispiel wenn Bewerber oder Mitarbeiter bewertet werden.
  7. Eine schriftliche Nutzungsregel: welcher Zugang erlaubt ist, welche Daten hinein dürfen und wen man im Zweifel fragt.

Dass ein Werkzeug einen AV-Vertrag anbietet, macht Ihren Einsatz noch nicht rechtmäßig. Das hängt davon ab, welche Daten Ihre Leute tatsächlich eingeben und wofür. Die Bewertung im Einzelfall übernimmt Ihr Datenschutzbeauftragter oder eine Rechtsberatung.

Illustration zum Abschnitt „ChatGPT Datenschutz im Unternehmen: Was die DSGVO verlangt“
KI-generiertes Bild

Welche Daten gehören nicht in ChatGPT?

Für private Konten und alle anderen Zugänge ohne AV-Vertrag gilt: Was einen Menschen erkennbar macht oder ein Geschäftsgeheimnis ist, bleibt draußen. Typische Fälle aus dem Büroalltag:

  • Kundenmails im Wortlaut mit Namen, Signatur und Telefonnummer
  • Lebensläufe, Arbeitszeugnisse und Gehaltslisten
  • Krankmeldungen oder Notizen zur Gesundheit, die die DSGVO besonders schützt
  • Verträge mit Konditionen, Angebote mit Kundenpreisen, unveröffentlichte Zahlen
  • Zugangsdaten, API-Schlüssel und interne Links mit einem Token in der Adresse

Platzhalter wie „[Kunde A]“ statt des echten Namens helfen, haben aber eine Grenze. Lässt sich aus dem Zusammenhang noch erkennen, um wen es geht, etwa weil Ort, Funktion und Vorfall zusammen genannt werden, ist der Text nur pseudonymisiert. Pseudonymisierte Daten gelten nach der DSGVO weiter als personenbezogen. Anonym ist ein Text erst, wenn auch mit Zusatzwissen niemand mehr herausfinden kann, um wen es geht. Der Name allein ist selten das einzige Merkmal: Auch Kundennummer, Aktenzeichen oder eine ungewöhnliche Berufsbezeichnung verraten eine Person.

Training abschalten: Was die Einstellung bewirkt und was nicht

In privaten ChatGPT-Konten können Sie in den Einstellungen widersprechen, dass Ihre Chats für das Modelltraining genutzt werden. Wie die Option heißt und wo sie liegt, hängt von App, Version und Oberfläche ab. Außerdem gibt es einen Chatmodus, dessen Unterhaltungen nicht im Verlauf landen. Beides gilt nur für künftige Eingaben und nur für das Konto, in dem Sie es einstellen.

Eines ändert die Einstellung nicht: Die Eingaben gehen weiter an die Server von OpenAI und werden dort verarbeitet. Die Übermittlung in die USA bleibt also, und einen AV-Vertrag ersetzt der Schalter auch nicht. Im Unternehmen kann außerdem niemand prüfen, ob mehrere Mitarbeiter in ihren Privatkonten wirklich widersprochen haben. Für Firmen ist der Schalter deshalb keine Lösung, sondern höchstens eine Notlösung für Einzelne. Wenn im Betrieb personenbezogene Daten verarbeitet werden, braucht es einen Zugang, den die Firma zentral steuert.

Illustration zum Abschnitt „Training abschalten: Was die Einstellung bewirkt und was nicht“
KI-generiertes Bild

Wie verlässlich sind die Informationen von ChatGPT?

ChatGPT erzeugt Text, indem es Stück für Stück die wahrscheinlichste Fortsetzung berechnet. In einer geprüften Datenbank schlägt es dabei nicht nach. So entstehen flüssig formulierte Antworten, die sachlich falsch sind, mit erfundenen Quellen, Paragrafen oder Zahlen. Mit Websuche oder angehängten Dokumenten passiert das seltener, ganz weg ist das Problem aber nicht. Wie Systemprompt, Wissenssuche und Halluzinationen zusammenhängen, erklärt unser Beitrag zur Funktionsweise eines KI-Chatbots.

Beim Datenschutz wird das wichtig, sobald es um Personen geht. Zu den Grundsätzen der DSGVO gehört, dass personenbezogene Daten sachlich richtig sein müssen. Fasst ChatGPT eine Bewerbung falsch zusammen oder dichtet einem Kunden etwas an und landet diese Zusammenfassung in einer Akte, verarbeitet das Unternehmen falsche Daten. In der Praxis gilt deshalb: Ein Mensch prüft Ergebnisse über Personen am Original, bevor sie gespeichert oder weitergegeben werden.

Was die KI-Verordnung beim Einsatz von ChatGPT dazubringt

Neben der DSGVO gilt die europäische KI-Verordnung, inzwischen in einer durch eine Änderungsverordnung angepassten Fassung. Für Firmen, die ChatGPT nutzen, zählen vor allem zwei Punkte. Erstens ergreifen Betreiber von KI-Systemen Maßnahmen, um die KI-Kompetenz ihres Personals zu unterstützen. Ein bestimmtes Kompetenzniveau müssen sie dabei für niemanden garantieren. Eine Schulung zu Datenregeln und zu den Grenzen der Antworten gehört zu solchen Maßnahmen, zum Beispiel ein KI-Coaching für Mitarbeiter. Zweitens gelten inzwischen Transparenzpflichten für KI-erzeugte Inhalte. Sie richten sich vor allem an Anbieter von Systemen, die synthetische Texte, Bilder, Audio oder Videos erzeugen, also an OpenAI und nicht an die Firma, die ChatGPT nutzt. Wer mit ChatGPT erstellte Texte veröffentlicht, sollte trotzdem prüfen lassen, welche Kennzeichnungspflichten für seinen Fall gelten. Die KI-Verordnung ersetzt die DSGVO nicht: Ein Prompt mit Kundendaten muss beide Regelwerke erfüllen.

Illustration zum Abschnitt „Was die KI-Verordnung beim Einsatz von ChatGPT dazubringt“
KI-generiertes Bild

Woran ChatGPT-Regeln in Firmen scheitern

  • Pauschales Verbot ohne Alternative: Dann nutzen die Leute ihr privates Konto auf dem Handy. Die Daten fließen trotzdem, nur bekommt es niemand mehr mit.
  • Richtlinie ohne Schulung: Ein PDF im Intranet beantwortet nicht, ob eine Kundenmail mit gestrichenem Namen schon unbedenklich ist. Das klären erst Beispiele aus dem eigenen Alltag.
  • Business-Zugang gebucht, Privatkonten weiter erlaubt: Dann gibt es zwei Datenflüsse, und nur einer davon ist geregelt.
  • Angebundene Datenquellen übersehen: Wird ChatGPT mit Laufwerk, Postfach oder CRM verbunden, liest das Tool mehr als nur den Prompt. Solche Verbindungen müssen deshalb freigegeben werden.
  • Keine Ansprechperson: Wenn niemand Zweifelsfälle entscheidet, entscheidet jeder für sich.

Wer statt des allgemeinen Chats einen Assistenten mit fest definierten Datenquellen und Rechten braucht, findet einen Überblick in unserem Beitrag zur Einführung eines KI-Assistenten im Unternehmen.

Wann sich Unterstützung lohnt

Hilfe von außen lohnt sich, wenn ChatGPT mit echten Firmendaten arbeiten soll, etwa mit Kundenanfragen, Dokumenten oder einem CRM. Das gilt auch, wenn mehrere Abteilungen eine gemeinsame Regel und eine Schulung brauchen. Entwerfen nur einzelne Leute Texte ohne personenbezogene Daten, reicht meist eine kurze interne Regel. Für ein Gespräch sollten Sie wissen, welche Aufgaben die KI übernehmen soll, welche Daten dabei anfallen, welche Konten schon genutzt werden und wer bei Ihnen für den Datenschutz zuständig ist. DigifyNow führt KI-Assistenten und Automatisierung ein und schult Teams. Die rechtliche Bewertung bleibt bei Ihrem Datenschutzbeauftragten. Wie die kostenlose Einschätzung Ihres KI-Vorhabens abläuft, steht auf der Kontaktseite, unsere Leistungen im Überblick finden Sie auf der Leistungsseite.

Illustration zum Abschnitt „Wann sich Unterstützung lohnt“
KI-generiertes Bild

Häufige Fragen

Was ist Datenschutz kurz erklärt?

Datenschutz regelt, wer Informationen über eine erkennbare Person verarbeiten darf, wofür und wie lange. In der EU geschieht das vor allem über die DSGVO. Sie verlangt eine Rechtsgrundlage, Zweckbindung, Datenminimierung und richtige Daten. Mit IT-Sicherheit ist das nicht dasselbe: IT-Sicherheit schützt Daten vor unbefugtem Zugriff, Datenschutz legt fest, ob die Verarbeitung überhaupt erlaubt ist.

Wie kann ich bei ChatGPT verhindern, dass meine Daten zum Training genutzt werden?

In privaten Konten können Sie in den Einstellungen widersprechen, dass Ihre Chats für das Modelltraining genutzt werden. Wo genau die Option liegt, hängt von der App-Version ab. Daneben gibt es einen Chatmodus ohne Verlauf. Verarbeitet werden die Daten trotzdem auf den Servern von OpenAI. Business-, Enterprise- und API-Zugänge trainieren laut OpenAI standardmäßig nicht mit Ihren Eingaben.

Darf ich Kundendaten in ChatGPT eingeben?

In ein privates Konto nicht, denn dort fehlt der Auftragsverarbeitungsvertrag und das Training ist standardmäßig eingeschaltet. In einem Business- oder API-Zugang mit AV-Vertrag kann es zulässig sein, wenn Rechtsgrundlage, Übermittlung in die USA und Informationspflichten geklärt sind. Für Gesundheitsdaten und andere besonders geschützte Kategorien setzt die DSGVO deutlich engere Grenzen als für Name oder Adresse.

Welche Änderungen bringt das neue Datenschutzgesetz ab 2026?

Für KI-Werkzeuge wie ChatGPT kommen die Neuerungen aus der europäischen KI-Verordnung, nicht aus einer neuen DSGVO. Sie gilt inzwischen in einer geänderten Fassung. Die Transparenzpflichten für KI-erzeugte Inhalte gelten bereits und treffen vor allem Anbieter wie OpenAI. Firmen, die KI nutzen, unterstützen die KI-Kompetenz ihres Personals. Die strengeren Regeln für Hochrisiko-Systeme greifen erst später und betreffen nur bestimmte Einsatzzwecke.

Kostenlose Einschätzung für Ihr Projekt anfragen