Jana, die KI-Assistentin, als Mensch am hellen Praxisschreibtisch im Morgenlicht

Wo landen deine Klientendaten, wenn du ChatGPT fragst?

VonAchimMenges

Du sitzt abends noch am Schreibtisch. Die Sitzung war intensiv, die Stichpunkte liegen vor dir — und du kopierst sie in ChatGPT, damit er dir daraus eine saubere Dokumentation formuliert. Geht schnell, klingt gut, fühlt sich privat an.

Ist es nicht.

Das Chatfenster sieht aus wie ein vertrauliches Gespräch. Technisch ist es etwas anderes: eine Eingabemaske, deren Inhalt auf den Servern eines amerikanischen Anbieters landet — und dort unter Umständen weiterverwendet wird. Für Therapeuten, Coaches und alle, die mit Menschen und ihren Geschichten arbeiten, ist das keine technische Fußnote. Das ist eine Vertrauensfrage.

Was mit deinen Eingaben wirklich passiert

OpenAI sagt es selbst, im eigenen Hilfebereich: Wer die kostenlose oder Plus-Version von ChatGPT nutzt, dessen Inhalte können zum Training der Modelle verwendet werden — es sei denn, du widersprichst aktiv in den Datenschutzeinstellungen („Das Modell für alle verbessern“ deaktivieren). Standard ist also: deine Eingaben helfen mit, die nächste Modellgeneration zu bauen. Quelle: OpenAI Help Center, „Wie deine Daten zur Verbesserung der Leistung unserer Modelle verwendet werden“ (help.openai.com).

Und selbst wenn du widersprichst, ist das kein unsichtbarer Mantel. OpenAI behält sich vor, Inhalte menschlich zu prüfen — bei Sicherheitsuntersuchungen, Supportfällen, rechtlichen Anforderungen oder möglichen Verstößen gegen die Nutzungsregeln. Das ist kein Skandal, das steht in den Richtlinien. Aber es bedeutet: Zwischen deinem Prompt und dem Modell sitzen im Zweifel echte Menschen.

Kurz gesagt: Ein Chatfenster ist kein Beichtstuhl. Es ist ein Formular auf einem fremden Server.

Warum das in der Praxis weh tut

Drei Punkte, die Therapeuten und Coaches kennen sollten:

1. In der Regel gibt es keinen Auftragsverarbeitungsvertrag. Die Consumer-Version sieht nach allem, was bekannt ist, keine vertragliche Grundlage für die Verarbeitung personenbezogener Daten im Auftrag vor. Ohne diese Grundlage — und ohne sauber abgesicherten Umgang mit dem Transfer in ein Drittland — gehören personenbezogene Daten dort schlicht nicht hinein. Das ist keine Panikmache, das ist DSGVO-Handwerk.

2. Auch „harmlose“ Eingaben sind es oft nicht. Eine anonymisierte Fallbeschreibung, die noch Alter, Beruf und Wohnort enthält, ist schneller re-identifizierbar, als man denkt. Faustregel: Wenn du den Text nicht auch in einer öffentlichen Familiengruppe posten würdest, gehört er nicht in ein Consumer-KI-Tool.

3. Die Technik macht Fehler — öffentlich. Ende September 2026 wurde berichtet, dass KI-Agenten eines großen Anbieters 53 Bilder von Nutzerkonten online geteilt hatten. Es traf Konten, die der Trainingsnutzung zugestimmt hatten — aber es zeigt: Wo Daten fließen, können sie auch an die falsche Stelle fließen. Quelle: Bericht über die Alignment-Arbeit von OpenAI, 25./26.09.2026 (thecoinrepublic.com).

Was du stattdessen tun kannst

Du musst nicht auf KI verzichten. Du musst nur entscheiden, wo deine Daten schlafen:

  • Keine Klientendaten in Consumer-Tools. Doku-Hilfe ja — aber mit anonymisierten, echten Fällen füttert man kein fremdes Modell. Lieber mit fiktiven Beispieltexten arbeiten lassen.
  • Opt-out prüfen und temporären Chat nutzen. In den Einstellungen „Das Modell für alle verbessern“ deaktivieren; für Sensibles den temporären Chat verwenden (erscheint nicht im Verlauf, wird nicht zum Training genutzt).
  • Oder: die Daten gar nicht erst aus der Praxis lassen. Die sauberste Lösung ist eine KI, die auf deinem eigenen Server in Deutschland läuft. Dann bleiben deine Daten in deiner Hand: kein unkontrollierter Drittlandtransfer, kein Training mit deinen Inhalten.

Kurz gesagt: KI im Praxisalltag ist kein Entweder-oder. Es ist eine Frage des Ortes. Deine Klientendaten gehören dorthin, wo auch deine Schweigepflicht wohnt: bei dir.

Wenn du KI in deiner Praxis nutzen willst, ohne dass deine Klientendaten in fremde Hände geraten, lade ich dich ein, JANAAV kennenzulernen — die Assistentin, die auf deinem eigenen Server arbeitet. Dein Server. Deine Daten.

Achim Menges, Autor, Hypnosetherapeut, PNI-Praktiker, Naturheilkundler — www.achim-menges.com

Quellen

Ähnliche Beiträge

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert