KI DSGVO-konform einsetzen: die Reihenfolge der Fragen

Im Vertrieb kopiert jemand die Mail eines Kunden in einen Chat-Assistenten, damit der die Antwort formuliert. Im Support läuft ein Werkzeug mit, das Telefonate mitschreibt. In der Buchhaltung liest ein Dienst Rechnungen aus. Drei Abteilungen, drei Entscheidungen, null Rückfragen.

Auffällig wird das erst, wenn jemand eine Liste braucht — für die Aufsichtsbehörde, für einen Kunden mit eigener Prüfpflicht, oder weil ein Beschäftigter Auskunft über seine Daten verlangt. Dann steht die Frage im Raum, die vorher niemand gestellt hat: Auf welcher Grundlage läuft das eigentlich?

Dieser Beitrag beantwortet sie als Reihenfolge — als Kette von sieben Fragen, bei der jede Antwort die nächste erst sinnvoll macht.

Die sieben Fragen in der richtigen Reihenfolge#

Wer bei Frage 1 ehrlich zu einem Nein kommt, ist fertig. Alle anderen arbeiten die Kette von oben nach unten ab: Frage 6 lässt sich nicht beantworten, solange Frage 2 offen ist, Frage 7 nicht, solange Frage 3 offen ist.

Frage 1: Sind überhaupt personenbezogene Daten im Spiel?#

Die häufigste Fehleinschätzung hier: „Wir geben doch keine Kundendaten ein.“ Beim Einsatz eines KI-Dienstes fließen mindestens drei getrennte Datenströme, und nur einer davon ist die bewusste Eingabe.

Die Eingabe. Alles, was im Prompt landet — der Mailverlauf, der Lebenslauf, das Protokoll. Die Datenschutzkonferenz (DSK), das Gremium der deutschen Aufsichtsbehörden, hält in ihrer Orientierungshilfe zu Künstlicher Intelligenz und Datenschutz fest: „Um die Eingabe personenbezogener Daten zu vermeiden, reicht es regelmäßig nicht, Namen und Anschriften einer Eingabe zu entfernen.“ Ein Kündigungsschreiben bleibt zuordenbar, auch ohne Namen.

Die Ausgabe. Ein erzeugter Text über eine identifizierbare Person ist eine neue Verarbeitung, nicht bloß ein Ergebnis — besonders dort, wo die Ausgabe bewertet: Bewerbungen, Bonität, Leistung.

Die Nutzungsdaten. Wer welchen Prompt wann abgeschickt hat, sind Beschäftigtendaten — auch dann, wenn im Prompt nur Produktbeschreibungen stehen.

Diese drei Ströme kannst du nicht gemeinsam bewerten: verschiedene Zwecke, oft verschiedene Rechtsgrundlagen.

Frage 2: Auf welcher Rechtsgrundlage?#

Die DSK formuliert die Anforderung enger, als viele sie lesen: „Für jeden Verarbeitungsschritt, bei dem mit Hilfe einer KI-Anwendung personenbezogene Daten verarbeitet werden, ist eine datenschutzrechtliche Rechtsgrundlage erforderlich.“ Nicht eine Grundlage für „den Einsatz von KI“, sondern eine je Schritt.

Aus Art. 6 Abs. 1 DSGVO kommen drei Varianten in Betracht. Die Vertragserfüllung (lit. b) trägt, wenn die Verarbeitung für die Leistung gegenüber dem Betroffenen nötig ist — nicht, wenn die KI nur bequemer ist als die bisherige Lösung. Das berechtigte Interesse (lit. f) ist der übliche Weg für interne Effizienzzwecke, verlangt aber eine dokumentierte Abwägung gegen die Interessen der Betroffenen. Die Einwilligung (lit. a) wirkt einfach, ist es aber nicht: Im Beschäftigungsverhältnis ist ihre Freiwilligkeit schwer darzustellen, und sie ist jederzeit widerrufbar.

Besondere Kategorien nach Art. 9 DSGVO — Gesundheit, Religion, Gewerkschaftszugehörigkeit, biometrische Daten — sind grundsätzlich verboten, solange keine der engen Ausnahmen greift. Ein Krankmeldungsverlauf, den ein Assistent zusammenfasst, fällt darunter.

Ein eigener Punkt ist das Training mit deinen Eingaben — ein anderer Zweck als die Beantwortung deines Prompts, also eine eigene Grundlage. Der Europäische Datenschutzausschuss hat in seiner Stellungnahme 28/2024 vom 18. Dezember 2024 ausgeführt, dass ein berechtigtes Interesse hier zwar in Betracht kommt, aber im Einzelfall geprüft werden muss — und dass rechtswidrig erlangte Trainingsdaten auf die Rechtmäßigkeit des späteren Einsatzes durchschlagen können. Prüf deshalb, ob die Nutzung deiner Eingaben zum Training abschaltbar ist, und schalt sie ab, bevor du produktiv gehst. Die Einstellung heißt je nach Anbieter anders — such in den Kontoeinstellungen und in der Anbieterdokumentation nach Training, Opt-out oder Zero Data Retention.

Am Rande: Der Digital-Omnibus der EU-Kommission vom 19. November 2025 will das Training von KI-Systemen ausdrücklich auf das berechtigte Interesse stützen. Das Gesetzgebungsverfahren läuft noch — Stand heute ein Vorschlag, kein geltendes Recht.

Frage 3: Verantwortlicher oder Auftragsverarbeiter?#

Du bleibst Verantwortlicher. Der Anbieter ist in der Regel dein Auftragsverarbeiter, dafür braucht es nach Art. 28 Abs. 3 DSGVO einen Vertrag. Die DSK stellt fest, dass bei Cloud-Lösungen „zwischen dem Anbieter der Anwendung und dem Verantwortlichen häufig ein Auftragsverarbeitungsverhältnis gemäß Art. 28 f. DS-GVO“ besteht.

Der Haken liegt dort, wo der Anbieter deine Eingaben für eigene Zwecke nutzt — zur Verbesserung seiner Modelle etwa. Dafür handelt er nicht weisungsgebunden, sondern als eigener Verantwortlicher, und dein Auftragsverarbeitungsvertrag deckt ihn nicht ab. Welche Klauseln der Vertrag enthalten muss, steht im Beitrag zum Auftragsverarbeitungsvertrag mit KI-Anbietern, die Grundlagen zur Vertragsart unter Was ist ein Auftragsverarbeitungsvertrag.

Frage 4: Wo stehen die Server?#

Verlässt ein Datum die EU, greifen die Art. 44 ff. DSGVO. Für die USA hat die Kommission am 10. Juli 2023 mit dem Durchführungsbeschluss (EU) 2023/1795 ein angemessenes Schutzniveau festgestellt — das EU-US Data Privacy Framework. Es gilt nicht für die USA als Land, sondern nur für Organisationen, die sich selbst zertifiziert haben. Das US-Handelsministerium ist verpflichtet, „eine Liste der Organisationen zu führen und öffentlich zugänglich zu machen, die ihre Einhaltung der Grundsätze bescheinigt haben“.

Daraus folgen zwei Handgriffe von fünf Minuten. Erstens: Schlag den Anbieter in der Data Privacy Framework List nach — die Gesellschaft aus deinem Vertrag, nicht die Dachmarke. Zweitens: Prüf, ob die Zertifizierung deine Datenart abdeckt. Personaldaten sind gesondert ausgewiesen; wer sie überträgt, unterliegt zusätzlich der verpflichtenden Zusammenarbeit mit den EU-Aufsichtsbehörden.

Verlass dich auf den Beschluss trotzdem nicht als Dauerzustand. Das Gericht der Europäischen Union hat eine Klage gegen ihn am 3. September 2025 abgewiesen (Rechtssache T-553/23) und dabei bestätigt, dass die USA „zum Zeitpunkt des Erlasses des angefochtenen Beschlusses“ ein angemessenes Schutzniveau gewährleisteten — so steht es in der Pressemitteilung des Gerichts. Die Einschränkung ist kein Zufall: Nach Art. 45 Abs. 4 und 5 DSGVO muss die Kommission die Entwicklung fortlaufend beobachten und den Beschluss aussetzen oder aufheben, wenn das Schutzniveau nicht mehr trägt. Nimm deshalb die Standardvertragsklauseln als Rückfallebene in den Vertrag auf — oder wähl gleich eine EU-Region. Wie das bei einem einzelnen Dienst aussieht, zeigt der Beitrag zu ChatGPT im Unternehmen.

Frage 5: Muss der Dienst ins Verarbeitungsverzeichnis?#

Ja, in aller Regel. Die Ausnahme in Art. 30 Abs. 5 DSGVO für Unternehmen mit weniger als 250 Beschäftigten ist schmaler als ihr Ruf: Sie entfällt bereits, wenn die Verarbeitung nicht nur gelegentlich erfolgt. Ein Werkzeug, das täglich im Support läuft, ist nicht gelegentlich.

Die Pflichtangaben stehen in Art. 30 Abs. 1. Vier zusätzliche Zeilen machen den Eintrag für einen KI-Dienst erst brauchbar:

• Modell, Anbieter und Versionsstand
• ob Eingaben zum Training verwendet werden und wie das abgeschaltet ist
• Verarbeitungsregion und Grundlage der Übermittlung
• wie lange Prompts und Ausgaben beim Anbieter gespeichert bleiben

Den Eintrag legst du an, bevor der Dienst produktiv geht. Nachträglich ist er eine Rekonstruktion, und Rekonstruktionen haben Lücken. Meldet ein Anbieter eine Panne, laufen deine 72 Stunden zur Meldung ab dem Bekanntwerden — ohne Verzeichnis weißt du nicht, wessen Daten betroffen sind.

Frage 6: Wann braucht es eine Datenschutz-Folgenabschätzung?#

Art. 35 DSGVO verlangt sie, wenn die Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten natürlicher Personen zur Folge hat. Die DSK dazu knapp: „Beim Einsatz von KI-Anwendungen wird dies vielfach der Fall sein.“

Konkreter wird die Liste der Verarbeitungstätigkeiten, für die eine DSFA durchzuführen ist (Version 1.1 vom 17.10.2018). Eintrag Nr. 11 nennt den „Einsatz von künstlicher Intelligenz zur Verarbeitung personenbezogener Daten zur Steuerung der Interaktion mit den Betroffenen oder zur Bewertung persönlicher Aspekte“ — mit KI-gestütztem Kundensupport und automatisierter Stimmungsanalyse bei Anrufen als Beispielen. Weitere Einträge treffen typische KI-Fälle mit: Daten aus verschiedenen Quellen zusammenführen (Nr. 5), Video- oder Audioaufnahmen automatisiert auswerten (Nr. 13).

Die Folgenabschätzung gehört vor den Beginn der Verarbeitung. Wer sie nachreicht, hat ein Dokument, aber keine Entscheidungshilfe — ihr Sinn ist, dass sie eine Entscheidung noch ändern kann.

Frage 7: Was gehört in die Datenschutzerklärung?#

Nicht jeder KI-Dienst gehört dorthin. Die Datenschutzerklärung richtet sich an Besucher und Kunden; über ein internes Werkzeug, das nur Beschäftigtendaten verarbeitet, informierst du die Belegschaft direkt.

Verarbeitest du dagegen Daten von Kunden, Bewerbern oder Interessenten mit KI-Unterstützung, greifen Art. 13 und 14 DSGVO voll: Zweck, Rechtsgrundlage, Empfänger, Drittlandübermittlung samt Grundlage, Speicherdauer. Bei einem Chatbot gehört der Hinweis dorthin, wo der Chat startet — nicht nur in ein Dokument im Footer.

Ein Sonderfall ist Art. 22 DSGVO. Die DSK bringt ihn auf einen Satz: „Entscheidungen mit Rechtswirkung dürfen gemäß Art. 22 Abs. 1 DS-GVO grundsätzlich nur von Menschen getroffen werden.“ Eine Absage, die ein Modell erzeugt und die niemand mehr prüft, ist keine menschliche Entscheidung — auch wenn ein Mensch auf „Senden“ klickt.

Wo diese Systematik aufhört#

Die sieben Fragen klären die Zulässigkeit, nicht die Qualität. Ob die Zusammenfassung korrekt ist, sagt dir die DSGVO nicht — sie verlangt nur, dass du es prüfst, weil du für die Richtigkeit der Daten einstehst. Die DSK ist hier deutlich: „Die Ergebnisse von KI-Anwendungen mit Personenbezug müssen kritisch hinterfragt werden.“

Zwei Bereiche fallen nicht unter diese Kette. Der eine ist die Sicherheit: manipulierte Eingaben, abfließende Geschäftsgeheimnisse, Werkzeuge mit Schreibrechten — eigene Themen mit eigener Systematik, die dazugehören, wenn du KI-Automatisierung im Betrieb planst. Der andere ist die KI-Verordnung der EU: Sie regelt das Produkt und seine Risikoklasse, die DSGVO die Verarbeitung personenbezogener Daten, beide gelten nebeneinander — was das für kleine Unternehmen bedeutet, steht im Beitrag zum EU AI Act für KMU.

Und der ehrliche Hinweis: Dieser Text ordnet die Fragen, er ersetzt keine Rechtsberatung für deinen konkreten Fall.

Und was ist mit „wir nutzen doch nur die kostenlose Version“?#

Die naheliegende Rückfrage, und sie führt in die falsche Richtung. Der Preis entscheidet über nichts von dem, was oben steht — er verschlechtert die Lage sogar an zwei Stellen.

Erstens ist bei kostenlosen Zugängen die Nutzung der Eingaben zum Training häufig voreingestellt und seltener abschaltbar; Frage 2 wird damit schwerer, nicht leichter. Zweitens gibt es einen Auftragsverarbeitungsvertrag meist erst ab den geschäftlichen Tarifen — ohne ihn fehlt die Grundlage nach Art. 28 DSGVO.

Dazu kommt das eigentliche Problem: Private Konten tauchen in keiner Übersicht auf. Was du nicht kennst, kannst du weder eintragen noch abschalten.

Häufige Fragen#

Reicht es, wenn ich keine Namen in den Prompt schreibe? Nein. Personenbezug entsteht auch über Kontext oder eine Kombination von Merkmalen — die DSK hält das Entfernen von Namen und Anschriften ausdrücklich für nicht ausreichend.

Brauche ich für jedes KI-Werkzeug eine eigene Folgenabschätzung? Nicht für jedes Werkzeug, aber für jede Verarbeitung mit voraussichtlich hohem Risiko. Ähnliche Verarbeitungen dürfen nach Art. 35 Abs. 1 DSGVO gemeinsam untersucht werden.

Genügt es, wenn der Anbieter im Data Privacy Framework gelistet ist? Das löst Frage 4, nicht die übrigen sechs. Rechtsgrundlage, Vertrag, Verzeichnis, Folgenabschätzung und Information bleiben deine Aufgabe.

Was ist, wenn der Anbieter in die EU verlegt? Dann entfällt die Drittlandprüfung — aber nur, wenn auch Support, Protokolle und Sicherungen dort bleiben. Das steht im Vertrag, nicht in der Produktwerbung.

Muss ich meinen Beschäftigten sagen, dass wir KI einsetzen? Ja, soweit dabei ihre Daten verarbeitet werden. Dafür gelten Art. 13 und 14 DSGVO; wo ein Betriebsrat besteht, kommen dessen Beteiligungsrechte hinzu.

Kurz gefasst#

Die DSGVO kennt keine Sonderregeln für KI. Sie stellt dieselben Fragen wie bei jedem anderen Dienst — nur fallen die Antworten häufiger unbequem aus, weil mehr Daten fließen als beabsichtigt.

Die Reihenfolge trägt die Prüfung: erst der Personenbezug, dann Zweck und Rechtsgrundlage, dann die Rollen, dann der Ort, und erst danach Verzeichnis, Folgenabschätzung und Information.

Wer diese Kette je Werkzeug durchgeht und aufschreibt, hat zugleich die Dokumentation, die im Ernstfall verlangt wird.