DSGVO und KI: Wo der Datenschutz Unternehmen wirklich bremst – und wo nicht

Die falsche erste Frage

„Dürfen wir das überhaupt, wegen der DSGVO?“ ist die Frage, die AI-Vorhaben in deutschen Unternehmen am häufigsten stoppt – oft, bevor irgendjemand genau benennt, was „das“ eigentlich ist. Die DSGVO kennt tatsächlich keine Ausnahme für Künstliche Intelligenz: Sobald personenbezogene Daten verarbeitet werden – Kundennamen in einem Prompt, Bewerberdaten in einem Auswahltool, Trainingsdaten mit echten Personenbezug –, gelten dieselben Regeln wie bei jeder anderen Datenverarbeitung auch. Das ist aber eine andere Aussage als „KI ist verboten“. Die eigentlich hilfreiche Frage lautet nicht „dürfen wir?“, sondern: An welchen konkreten Stellen entsteht rechtliches Risiko – und für wen, das Unternehmen oder seine Kunden?

Reibungspunkt 1: Die Rechtsgrundlage für Training und Nutzung

Jede Verarbeitung personenbezogener Daten braucht eine Rechtsgrundlage nach Art. 6 DSGVO – bei KI ist meist „berechtigtes Interesse“ (Art. 6 Abs. 1 lit. f) die Grundlage, auf die sich Anbieter und Unternehmen berufen. Der Europäische Datenschutzausschuss (EDPB) hat dazu im Dezember 2024 eine viel beachtete Stellungnahme veröffentlicht: Berechtigtes Interesse kann eine taugliche Grundlage sein, aber nur nach einer echten Abwägung im Einzelfall – Erforderlichkeit und Verhältnismäßigkeit müssen tatsächlich geprüft werden, eine pauschale Berufung reicht nicht. Für Unternehmen heißt das konkret: Wer ein KI-Tool eines Anbieters nutzt, der seinerseits mit personenbezogenen Daten trainiert hat, sollte wissen, auf welcher Grundlage das geschah – gerade weil laut EDPB auch unrechtmäßig erhobene Trainingsdaten die Rechtmäßigkeit des späteren Einsatzes belasten können, wenn das Modell nicht wirksam anonymisiert wurde.

Der Alltag im Team: ChatGPT & Co.

Für den internen Einsatz – Mitarbeitende, die ChatGPT, Claude oder Copilot im Arbeitsalltag nutzen – ist die Lage einfacher zu greifen, aber genauso oft ungeklärt: Ohne Auftragsverarbeitungsvertrag, ohne deaktiviertes Trainings-Opt-out und ohne verbindliche Nutzungsrichtlinie landen früher oder später Kundendaten oder Vertragsentwürfe in einem Tool, das dafür nicht freigegeben ist. Das ist der Teil des Themas, den wir im How-to-AI-Modul „Datenschutz & AI“ bereits als Praxis-Checkliste aufbereitet haben – dieser Artikel geht bewusst einen Schritt weiter, in die strategischen und kundenseitigen Fragen dahinter.

Reibungspunkt 2: Automatisierte Entscheidungen gegenüber Kunden

Art. 22 DSGVO verbietet Entscheidungen, die ausschließlich automatisiert getroffen werden und rechtliche oder ähnlich erhebliche Wirkung für eine Person entfalten – mit engen Ausnahmen (Vertragserfüllung, gesetzliche Erlaubnis, ausdrückliche Einwilligung). Das betrifft direkt die Kundenseite eines Unternehmens, sobald KI nicht nur intern unterstützt, sondern über Menschen mitentscheidet:

• Automatisiertes Kredit- oder Bonitäts-Scoring, das über eine Vertragsentscheidung mitbestimmt
• KI-gestützte Vorauswahl von Bewerbungen, die Kandidaten automatisiert aussortiert
• Dynamische Preisbildung, die einzelnen Kunden automatisiert unterschiedliche Konditionen zuweist
• Automatisierte Risikoeinstufung von Kunden, etwa in Versicherung oder Finanzdienstleistung

Hier lohnt sich ein Blick auf eine Entscheidung, die viele Unternehmen unterschätzen: Der Europäische Gerichtshof hat am 7. Dezember 2023 im sogenannten SCHUFA-Verfahren (C-634/21) klargestellt, dass bereits die automatisierte Berechnung eines Scores als „automatisierte Entscheidung“ im Sinne von Art. 22 DSGVO gelten kann – nämlich dann, wenn dieser Score eine nachgelagerte Entscheidung eines Dritten (etwa einer Bank) maßgeblich vorbestimmt. Ein Mensch, der den Algorithmus formal nur noch abnickt, reicht nicht aus, um aus dem Anwendungsbereich herauszufallen – es braucht eine substanzielle, eigenständige Prüfung mit echter Verwerfungsbefugnis. Für jedes Unternehmen, das KI zur Vorbewertung von Kunden oder Bewerbern einsetzt, ist das eine der praktisch wichtigsten Fragen: Trifft am Ende wirklich ein Mensch die Entscheidung – oder nur formal? Wer hier zusätzlich Anhang-III-Anwendungsfälle der EU-KI-Verordnung berührt (etwa HR-Auswahl oder Kreditwürdigkeitsprüfung), trägt ab August 2026 zusätzliche Pflichten aus einem zweiten Regelwerk, das parallel zur DSGVO greift.

Reibungspunkt 3: Wenn Daten die EU verlassen

Die meisten marktführenden AI-Anbieter verarbeiten Daten in den USA. Seit Juli 2023 erlaubt das EU-US Data Privacy Framework (DPF) Datenübermittlungen an zertifizierte US-Anbieter auf Basis eines Angemessenheitsbeschlusses der EU-Kommission – vorausgesetzt, der jeweilige Anbieter ist aktiv gelistet und die Zertifizierung deckt den konkreten Datenbereich ab. Rechtssicher ist das trotzdem nur bedingt: Der US CLOUD Act erlaubt US-Behörden weiterhin, von US-Unternehmen Datenherausgabe zu verlangen, unabhängig vom Speicherort der Daten – eine EU-Datenresidenz schützt davor nicht automatisch. Datenschutzexperten halten es für plausibel, dass das DPF wie schon seine beiden Vorgänger (Safe Harbor, Privacy Shield) irgendwann vor dem EuGH landet. Für Unternehmen mit sensiblen Kunden- oder Personaldaten heißt das: Wer sich heute auf einen US-Anbieter verlässt, sollte wissen, was passiert, wenn dessen Rechtsgrundlage morgen wegbricht – nicht erst, wenn es passiert.

Reibungspunkt 4: Die Pflicht, die die meisten erst nach dem Anruf der Aufsicht kennen

Art. 35 DSGVO verpflichtet zu einer Datenschutz-Folgenabschätzung (DSFA), sobald eine Verarbeitung voraussichtlich ein hohes Risiko für die Rechte und Freiheiten von Personen mit sich bringt – neue Technologien wie KI, Profiling oder biometrische Systeme sind dabei ein typischer Auslöser. In der Praxis ist genau das der Punkt, an dem KI-Projekte am häufigsten überrascht werden: Ein Unternehmen führt ein KI-Tool ein, weil es spürbar Zeit spart – und merkt erst Wochen später, meist durch eine Nachfrage der Aufsichtsbehörde, dass eine DSFA fällig gewesen wäre. Die Verantwortung dafür liegt beim Unternehmen als Verantwortlichem, nicht beim Tool-Anbieter als Auftragsverarbeiter. Wer personenbezogene Gesundheits-, Finanz- oder Personaldaten durch ein KI-Modell laufen lässt, sollte diese Prüfung vor dem Rollout durchführen, nicht danach.

Der Wunschtraum „anonymisiert“

Ein beliebtes Argument lautet: „Unsere Daten sind anonymisiert, also greift die DSGVO nicht.“ Der EDPB hat in seiner Stellungnahme vom Dezember 2024 präzisiert, wann ein KI-Modell tatsächlich als anonym gilt: Es muss nach vernünftigem Ermessen unwahrscheinlich sein, sowohl Personen, deren Daten zum Training genutzt wurden, zu identifizieren, als auch solche Daten durch gezielte Anfragen aus dem Modell wieder zu extrahieren – und das ist im Einzelfall zu prüfen, keine Formsache. Bei großen Sprachmodellen, die auf umfangreichen, teils öffentlich gesammelten Daten trainiert wurden, ist diese Schwelle in der Praxis schwerer zu erreichen, als Marketingaussagen suggerieren. Das kollidiert mit einem zweiten strukturellen Problem: dem Recht auf Löschung (Art. 17 DSGVO). Ein einmal trainiertes Modell „vergisst“ einzelne Datenpunkte nicht auf Zuruf – anders als eine Datenbankzeile lässt sich ein gelernter Zusammenhang nicht einfach löschen, ohne das Modell neu zu trainieren. Für Unternehmen, die eigene Modelle trainieren oder fine-tunen (nicht: klassische RAG-Anwendungen, bei denen die Ursprungsdaten unverändert bleiben), ist das ein Punkt, der früh mitgedacht werden muss.

Ist die DSGVO „AI-ready“? Der Streit, der gerade live ausgetragen wird

Die deutsche Wirtschaft ist in dieser Frage unmissverständlich: Einer Bitkom-Umfrage zufolge beklagen 97 Prozent der befragten Unternehmen hohen bürokratischen Aufwand durch die DSGVO, 77 Prozent sehen die Digitalisierung ihres Geschäftsmodells gebremst, 63 Prozent fürchten, dass die KI-Entwicklung in Europa dadurch gefährdet wird. 79 Prozent fordern eine grundlegende Reform auf EU-Ebene, 71 Prozent wollen eine Anpassung an das KI-Zeitalter. Das ist die eine Seite der Debatte – und sie ist lauter geworden, seit die EU-Kommission selbst reagiert hat.

Am 19. November 2025 legte die EU-Kommission ein „Digital Omnibus“-Paket vor, das DSGVO und KI-Verordnung gezielt für KI-Anwendungen erleichtern soll: Die Verarbeitung personenbezogener Daten für „Entwicklung und Betrieb von KI-Modellen“ soll grundsätzlich auf berechtigtes Interesse gestützt werden können, Pseudonymisierung soll leichter von einer vollständigen Anonymisierung profitieren, und Datenschutz-Folgenabschätzungen sollen vereinfacht und stärker harmonisiert werden. Der Zeitplan zeigt, wie sehr das Thema gerade in Bewegung ist: Nach Kritik von EDPB und dem Europäischen Datenschutzbeauftragten im Januar und Februar 2026 einigten sich Parlament und Rat am 7. Mai 2026 vorläufig politisch auf ein Paket – geltendes Recht ist das aber bis zur förmlichen Verabschiedung und Veröffentlichung im Amtsblatt noch nicht. Bis dahin gelten die heutigen Regeln unverändert.

Der eigentlich interessante Teil der Debatte ist aber nicht Wirtschaft gegen Aufsicht – sondern dass die deutsche Datenschutzkonferenz (DSK) selbst am 18. Dezember 2025 eine Reform forderte, mit einem anderen Ansatz als die EU-Kommission: eigene, klar umrissene Rechtsgrundlagen für Entwicklung, Training und Betrieb von KI-Modellen direkt in der DSGVO verankert – statt einer pauschalen Berufung auf berechtigtes Interesse mit Opt-out. Dazu ein zweiter, für Unternehmen besonders relevanter Vorschlag: eine stärkere Herstellerhaftung für IT-Anbieter, die Datenschutz von vornherein in ihre Produkte einbauen müssten – statt dass allein die Unternehmen, die ein Tool einsetzen, die volle rechtliche Verantwortung für dessen Bauweise tragen, ohne dessen Produktgestaltung beeinflussen zu können. Der Datenschutzaktivist Max Schrems (noyb) kritisierte den Kommissionsvorschlag am 16. Dezember 2025 aus einer dritten Richtung: Ein pauschales Opt-out für KI-Training mit Kundendaten sei rechtlich unklar und am Ende auch wirtschaftlich riskant – gebraucht würden stattdessen konkrete, verbindliche Anforderungen, etwa zu Datenreinigung, Löschkonzepten und Neu-Training bei problematischen Ergebnissen.

Drei Seiten, drei unterschiedliche Diagnosen – aber eine gemeinsame Schnittmenge: Selbst die Institutionen, die die DSGVO durchsetzen, halten den heutigen Rechtsrahmen für KI nicht für ausreichend durchdacht. Das ist die eigentliche Erkenntnis hinter der „AI-ready“-Frage: Es geht nicht darum, ob die DSGVO KI grundsätzlich verhindert – sie tut es nicht –, sondern darum, dass die Regeln für die konkreten KI-spezifischen Fragen (Training auf großen Datenmengen, Modell-Anonymität, Verantwortung zwischen Hersteller und Anwender) 2018 schlicht nicht mitgedacht wurden und gerade nachgeschärft werden. Wer sein AI-Vorhaben heute plant, plant auf einem Rechtsrahmen, der sich in den kommenden 12 bis 24 Monaten voraussichtlich noch verschiebt.

Die ehrliche Antwort: Bremst oder verhindert die DSGVO KI-Rollouts?

Verhindert: selten. Kein Fall in diesem Artikel beschreibt ein pauschales Verbot von KI – jeder beschreibt eine Bedingung, unter der bestimmter KI-Einsatz zulässig ist oder eben nicht. Bremst: ja, aber seltener durch den Gesetzestext selbst als durch das, was Unternehmen nicht wissen, bevor sie starten. Das Muster hinter den meisten kritischen Fällen aus der Praxis (wie das eingangs skizzierte Beispiel eines Versicherungsmaklers, der ein KI-Tool zur Schadensbewertung einführt, ohne zu wissen, dass er bereits Gesundheitsdaten durch ein Modell laufen lässt) ist fast immer dasselbe: Rechtsgrundlage, Datenfluss und DSFA-Pflicht wurden nicht vor dem Rollout geklärt, sondern erst, als die Aufsichtsbehörde nachfragte. Unternehmen, die diese Fragen von Anfang an mitdenken, sind in der Praxis nicht langsamer unterwegs als der Wettbewerb – sie vermeiden nur den teuren Nachbau, der entsteht, wenn ein produktives System nachträglich compliant gemacht werden muss.

Was das für deinen AI-Rollout bedeutet

Aus den vier Reibungspunkten lässt sich ein Prüfraster ableiten, das sich lohnt, bevor Budget in die Umsetzung fließt – nicht als abschließende Checkliste, sondern als Landkarte der Fragen, die eine belastbare Antwort brauchen:

• Rechtsgrundlage klären, bevor das erste Feature gebaut wird: Auf welcher Basis (Vertrag, Einwilligung, berechtigtes Interesse) läuft die konkrete Verarbeitung – und trägt diese Grundlage auch den produktiven Betrieb, nicht nur den Test?
• Kundenseitige Automatisierung auf Art.-22-Exposition prüfen: Trifft am Ende eine KI faktisch die Entscheidung über einen Menschen, auch wenn formal noch jemand „bestätigt“?
• Datenflüsse zu Drittanbietern kartieren: Welche Daten verlassen die EU, auf welcher Rechtsgrundlage, und was passiert, wenn diese Grundlage in den nächsten Jahren wegbricht?
• DSFA-Pflicht vor dem Rollout prüfen, nicht danach – gerade bei sensiblen Datenkategorien oder größerem Automatisierungsumfang lohnt sich diese Prüfung, bevor ein System produktiv geht.
• Den Rechtsrahmen aktiv im Blick behalten: Der Digital Omnibus wird die Lage in den kommenden Monaten voraussichtlich verändern – wer heute plant, sollte diese Bewegung in die Architektur einpreisen, statt auf den heutigen Stand zu bauen wie auf einen fixen Punkt.

Keiner dieser Punkte lässt sich mit einer allgemeinen Antwort abschließend klären – das hängt an der konkreten Verarbeitung, den eingesetzten Anbietern und der Risikoklasse der betroffenen Daten, und ersetzt keine Rechtsberatung im Einzelfall. Was sich aber klar sagen lässt: Diese Fragen gehören an den Anfang eines AI-Vorhabens, in die Bewertung von Prozessen und Ideen – nicht als nachträgliche Compliance-Übung ans Ende. Genau das ist der Teil, den wir im AI Opportunity Scan mit abbilden, bevor überhaupt eine Umsetzungsentscheidung fällt.