Wissen · Datenschutz
KI und Datenschutz: sechs Punkte vor dem ersten Einsatz
Sobald ein KI-System Belege, Nachrichten oder Kundendaten verarbeitet, gilt die DSGVO unverändert weiter. Die Fragen, die im Betrieb tatsächlich auftauchen, betreffen den Auftragsverarbeitungsvertrag, den Ort der Verarbeitung, die Nutzung von Eingaben für das Training, die Mitbestimmung und die Aufbewahrung. Dieser Text geht sie der Reihe nach durch.
Wer ist verantwortlich
Verantwortlicher im Sinne von Artikel 4 Nummer 7 DSGVO bleibt der Betrieb, der über Zweck und Mittel der Verarbeitung entscheidet. Der Anbieter des KI-Systems ist in aller Regel Auftragsverarbeiter nach Artikel 28. Diese Rollenverteilung ändert sich durch den Einsatz von KI nicht.
Praktisch bedeutet das: Auskunftsersuchen, Löschanfragen und die Meldung einer Datenpanne bleiben Aufgabe des Betriebs. Der Anbieter schuldet Unterstützung dabei, und diese Unterstützung gehört in den Vertrag.
Der Auftragsverarbeitungsvertrag
Ohne AV-Vertrag nach Artikel 28 Absatz 3 DSGVO darf kein personenbezogener Datenbestand an einen Dienstleister gehen. Bei KI-Systemen sind drei Punkte darin besonders zu prüfen:
- Die Liste der Unterauftragsverarbeiter. Fast jeder Anbieter nutzt fremde Rechenzentren oder Modellanbieter. Diese Kette gehört offengelegt, mit Region je Anbieter und mit einer Ankündigungsfrist bei Wechsel.
- Die technischen und organisatorischen Maßnahmen nach Artikel 32, mit Angaben zu Verschlüsselung, Rechtevergabe und Protokollierung.
- Die Löschung nach Vertragsende. Wann werden Inhalte, Zwischenergebnisse und Protokolle gelöscht, und wie wird das nachgewiesen.
Wenn Ihr eigener Kunde Ihnen Daten anvertraut hat, brauchen Sie zusätzlich dessen Genehmigung für einen weiteren Unterauftragnehmer. Das ist eine Seite Text und gehört früh ins Gespräch.
Ort der Verarbeitung und Drittland
Für Übermittlungen in Drittländer gelten die Artikel 44 bis 49 DSGVO. Für die USA besteht seit Juli 2023 ein Angemessenheitsbeschluss der Europäischen Kommission, der allerdings an die Zertifizierung des einzelnen Empfängers gebunden ist und mehrfach gerichtlich angegriffen wurde. Wer diese Diskussion vermeiden will, hält die Verarbeitung im europäischen Raum.
Die entscheidende Frage im Gespräch lautet nicht, wo der Anbieter seinen Sitz hat, sondern wo das Modell rechnet und wo Inhalte gespeichert werden. Beides lässt sich vertraglich festlegen. Bei Werklane liegen Verarbeitung und Speicherung in Frankfurt am Main.
Training auf den eigenen Daten
Ob Eingaben zur Verbesserung der Modelle verwendet werden, unterscheidet sich je nach Anbieter und je nach Tarif. Bei kostenlosen Zugängen ist die Nutzung für das Training häufig vorgesehen, bei Geschäftskunden regelmäßig ausgeschlossen.
Für den Betrieb sind zwei Zusagen wesentlich. Erstens der vertragliche Ausschluss jeder Verwendung von Inhalten für das Training. Zweitens eine Aussage zur Aufbewahrung: ob Eingaben nach der Verarbeitung sofort verworfen werden oder für einen Zeitraum gespeichert bleiben.
Beide Punkte gehören in den AV-Vertrag, weil sie sich sonst mit den Nutzungsbedingungen ändern können.
Beschäftigtendaten und Mitbestimmung
Sobald ein System Arbeitsergebnisse einzelner Personen sichtbar macht, greift § 26 BDSG, und bei bestehendem Betriebsrat greift die Mitbestimmung nach § 87 Absatz 1 Nummer 6 BetrVG. Diese erfasst technische Einrichtungen, die zur Überwachung von Verhalten oder Leistung geeignet sind. Auf die Absicht kommt es dabei nicht an, die Eignung genügt.
Ein System, das Buchungen protokolliert, ist damit im Zweifel mitbestimmungspflichtig. Der übliche Weg ist eine Betriebsvereinbarung, die Zweck, Auswertungsgrenzen und Aufbewahrungsfristen festhält. Wer den Betriebsrat vor der Auswahl einbindet, spart die Nachverhandlung nach der Einführung.
Automatisierte Entscheidungen
Artikel 22 DSGVO betrifft Entscheidungen, die ausschließlich auf automatisierter Verarbeitung beruhen und rechtliche Wirkung entfalten oder eine Person erheblich beeinträchtigen. Für die genannten Vorgänge im Rechnungs- und Zahlungswesen ist das selten einschlägig, weil dort Unternehmen betroffen sind und ein Mensch freigibt.
Relevant wird die Vorschrift bei Bonitätsentscheidungen gegenüber Privatpersonen und bei Auswahlverfahren im Personalbereich. In diesen Fällen braucht es eine echte menschliche Prüfung, die den Vorschlag verwerfen kann. Eine reine Bestätigung per Klick genügt dafür nicht.
Bei umfangreicher Verarbeitung sensibler Daten kommt zusätzlich eine Datenschutz-Folgenabschätzung nach Artikel 35 in Betracht. Die Aufsichtsbehörden führen dazu Listen mit Verarbeitungsvorgängen, bei denen sie eine solche Abschätzung verlangen.
Prüfliste für das Anbietergespräch
- Liegt ein unterschriftsreifer AV-Vertrag nach Artikel 28 vor?
- Wo rechnet das Modell, und wo werden Inhalte gespeichert?
- Ist die Nutzung von Inhalten für das Training vertraglich ausgeschlossen?
- Wie lange bleiben Eingaben und Protokolle gespeichert?
- Welche Unterauftragsverarbeiter stehen auf der Liste, und wie wird ein Wechsel angekündigt?
- Welche Auswertungen sind über einzelne Beschäftigte möglich, und wer darf sie sehen?
- Wie unterstützt der Anbieter bei Auskunft, Löschung und Meldepflicht?
Neben dem Datenschutz gilt seit dem 2. August 2026 die Transparenzpflicht der KI-Verordnung. Was sie für mittelständische Betriebe bedeutet, steht in unserer Einordnung zum EU AI Act.
Quellen und Stand. Genannt sind Verordnung (EU) 2016/679 (DSGVO), insbesondere die Artikel 4, 22, 28, 32, 35 und 44 bis 49, das Bundesdatenschutzgesetz § 26, das Betriebsverfassungsgesetz § 87 Absatz 1 Nummer 6 sowie der Angemessenheitsbeschluss der Europäischen Kommission zum EU-US Data Privacy Framework vom 10. Juli 2023. Dieser Text ist eine Einordnung für die Praxis und ersetzt keine Rechtsberatung. Stand: 4. September 2026.
