KI und Datenschutz ist für Selbstständige und Unternehmende ein heikles Thema. Die meisten denken bei der Frage automatisch an das Training: Was macht die KI mit meinen Eingaben? Das ist ein wichtiger Punkt, aber nur einer von dreien. Die anderen beiden werden regelmäßig unterschätzt, und sie sind es, die im Business tatsächlich teuer werden können.
Für diesen Artikel und das dazugehörige Video habe ich Sebastian Hoffmann eingeladen, Information Security Consultant bei ATD und Teamleiter im Bereich Governance, Risk und Compliance. Er begleitet Unternehmen von 20 bis 1.000 Mitarbeitern beim Aufbau ihrer Informationssicherheits-Systeme und bringt eine Perspektive mit, die aus der Praxis kommt.
Alles gesagte gilt genauso für ChatGPT, Claude, Gemini, Copilot und die anderen großen Anbieter.
ChatGPT und Datenschutz hat drei Ebenen, nicht eine
Die erste Ebene ist die, über die alle reden: was die KI mit den Eingaben macht. Die zweite Ebene wird fast überall vergessen: was du der KI anvertraust. Die dritte Ebene wird immer relevanter: was du der KI erlaubst, aktiv zu tun. Dazu kommt der Sonderfall Kundendaten, sobald personenbezogene Informationen Dritter im Spiel sind. Diese vier Blickwinkel decken das Thema ab.
Ebene 1: Was macht die KI mit deinen Daten?
Wer eine kostenlose Version von ChatGPT, Claude oder Gemini nutzt, kann davon ausgehen, dass die Inhalte der Eingaben zum Training der Sprachmodelle verwendet werden. Manche Anbieter lassen zusätzlich einzelne Chats von echten Menschen lesen, um Qualität und Sicherheit zu prüfen.
Der wichtigste Schalter dagegen sitzt in den Einstellungen des Anbieters. Bei ChatGPT ist das die Sektion Datenkontrollen und der Temporäre Chat, bei Claude die Datenschutz-Einstellungen, bei Gemini die Google-Aktivität. Standardmäßig steht dieser Schalter in vielen Fällen auf an. Er muss aktiv abgeschaltet werden. Im Premium- oder Enterprise-Account bekommt man zusätzlich Zusicherungen, dass Daten in einem definierten Bereich bleiben, in Copilot etwa der Mandant beziehungsweise Tenant.
Sebastian formuliert es im Video nüchtern: Das ist am Ende Vertrauenssache, denn der Nutzer muss darauf setzen, dass der Anbieter sich an seine eigenen Richtlinien hält. Für Selbstständige mit sensiblen Themen empfiehlt sich eine kurze jährliche Prüfung der Einstellungen, damit ein Update oder ein Anbieterwechsel nicht unbemerkt Voreinstellungen zurücksetzt.
Ebene 2: Was vertraust du der KI an?
Selbst wenn das Training deaktiviert ist, bleiben Chats auf den Servern des Anbieters gespeichert. Wird ein Account gehackt oder taucht das Passwort in einem fremden Leak auf, hat jemand Fremdes plötzlich Zugriff auf alles, was du in den Chat getippt wurde. Sebastian bringt die Faustregel im Interview auf den Punkt: Was man bei Facebook oder TikTok nicht posten würde, gehört auch nicht in einen KI-Chat. Der Chat ist keine Beichte und kein Tresor, sondern eine Postkarte auf einem fremden Server.
Besonders kritisch sind Kundendaten, Personaldaten, Geschäftsgeheimnisse und Preislisten. Eine Cisco-Studie von 2024 zeigt, dass 48 Prozent der Unternehmen nicht-öffentliche Informationen in generative KI eingeben, oft aus reiner Bequemlichkeit. Sebastian berichtet im Video von einem anonymisierten Praxisfall: Ein Autohaus hat eine umfangreiche Datenbank mit Reparaturhandbüchern in eine KI hochgeladen, ohne das Training abzuschalten. Später ließen sich Detailinformationen mit den passenden Prompts wieder abrufen, in veränderter Form, aber inhaltlich erkennbar.
Konkrete Konsequenz für das eigene Business: Eine kurze mentale Liste, was in einen KI-Chat nie darf. Dazu gehören Klarnamen von Kundinnen, Zugangsdaten, Bankinformationen, laufende Angebotsdetails und alles, was in einer Personalakte stehen würde. Für heikle Passagen genügt es oft, die Namen zu maskieren und den Rest sachlich zu formulieren.
Ebene 3: Was erlaubst du der KI zu tun?
Die dritte Ebene ist die, die am schnellsten in echten Schaden umschlägt. Sobald eine KI Zugriffsrechte bekommt, um in einem Postfach, im CRM oder auf dem Rechner zu arbeiten, hängt die Konsequenz nicht mehr an dem, was ihr gesagt wird, sondern an dem, was sie tun darf.
Im April 2026 verlor ein Startup namens PocketOS in neun Sekunden seine komplette Produktionsdatenbank inklusive aller Backups. Ein KI-Agent hatte einen API-Zugang mit vollen Rechten gefunden und die Aufgabe konsequent umgesetzt, indem er die Datenbank löschte. Der Ausfall betrug mehr als 30 Stunden. Auf die Rückfrage, warum sie das getan habe, antwortete die KI: „Ich habe es eigenmächtig getan“.
Das Prinzip, mit dem sich diese Klasse von Vorfällen vermeiden lässt, heißt in der IT-Welt Least Privilege. Übersetzt: Die KI bekommt nur so viel Zugriff, wie sie für die konkrete Aufgabe braucht, nicht mehr. Für Selbstständige heißt das im Alltag: einzelne Ordner statt der gesamten Festplatte, ein Postfach statt aller Postfächer, Lese- statt Schreibrechte, wo Schreiben nicht nötig ist. Und wenn ein Zugriff einmal notwendig war, aber die Aufgabe erledigt ist, wird er wieder entzogen.
Sebastian sieht in seinen Audits regelmäßig, wie Unternehmen ihren KI-Systemen aus Bequemlichkeit den Generalschlüssel geben, statt einzelne Türen zu öffnen. Das ist einer der größten Fehler, den er benennt.
Sonderfall Kundendaten und DSGVO
Sobald personenbezogene Daten Dritter im Spiel sind, wird die Sache rechtlich. Ein KI-Tool, das auf ein CRM oder einen Newsletter-Anbieter zugreift, verarbeitet fremde personenbezogene Daten über einen weiteren Dienstleister. Das ist kein technisches Detail, sondern DSGVO-relevant.
Drei Punkte gehören dann geregelt. Erstens ein Auftragsverarbeitungsvertrag mit dem KI-Anbieter, meist AVV abgekürzt. Zweitens ein Eintrag ins Verzeichnis der Verarbeitungstätigkeiten. Drittens ein Hinweis in der Datenschutzerklärung auf die Empfänger-Kategorien, damit Kundinnen wissen, welche Dienstleister ihre Daten sehen können.
Die Höhe der Bußgelder bei Verstößen ist laut Artikel 83 DSGVO nicht symbolisch: bis zu 20 Millionen Euro oder vier Prozent des weltweiten Jahresumsatzes. Italien hat Ende 2024 gegen OpenAI ein Bußgeld über 15 Millionen Euro verhängt, und das Landgericht Kiel hat im Februar 2024 entschieden, dass KI-Betreiber für Persönlichkeitsrechtsverletzungen ihrer Systeme haften.
Für Solo-Selbstständige heißt das nicht, dass eine eigene Rechtsabteilung nötig ist. Es heißt, dass diese drei Punkte einmal sauber geprüft werden sollten, idealerweise mit einem Blick von jemandem, der DSGVO im Alltag begleitet. Die Datenschutzkonferenz stellt dafür eine offizielle Orientierungshilfe zur Verfügung, die als Ausgangspunkt dient.
Drei Fragen vor jedem KI-Zugriff
Wer die drei Ebenen zusammendenkt, kann sich vor jedem neuen KI-Einsatz eine einfache Prüfung angewöhnen:
- Trainiert dieses Tool mit meinen Daten, und habe ich das abgeschaltet?
- Was könnte mir schaden, wenn der Account irgendwann in fremde Hände gerät?
- Was erlaube ich diesem Tool zu tun, und ginge es auch mit weniger Zugriff?
Wer diese drei Fragen ehrlich beantwortet, hat den Kern des ChatGPT und KI Datenschutzes für das eigene Business bereits abgedeckt.
Fazit: KI Datenschutz für Selbstständige
Die häufigste Fehleinschätzung beim ChatGPT Datenschutz ist, das Thema auf das Training zu reduzieren. Die eigentlichen Risiken liegen in dem, was der KI anvertraut wird, und in dem, was ihr erlaubt wird zu tun. Wer alle drei Ebenen einmal sauber aufsetzt und die Sonderrolle der Kundendaten mitdenkt, kann KI im Business einsetzen, ohne sich ein rechtliches oder betriebliches Risiko einzubauen.
Wenn du KI in deinem Business strukturiert einführen willst, inklusive Datenschutz und sauberer Zugriffsrechte, dann komm in den KI- und IT-Klub. Dort bauen wir genau solche Systeme Schritt für Schritt auf. Sebastian ist dort einer der Experten, die wir dort vertreten. Du kannst Sebastian über LinkedIn auch direkt kontaktieren.
