Der EU AI Act: Was Unternehmen wirklich wissen müssen – und was nur Panik ist

Die zwei Sätze, die fast jede AI-Act-Diskussion vergiften

Der erste Satz ist die Strafandrohung: Bußgelder von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes. Die Zahl stimmt – sie gilt aber ausschließlich für die absolut verbotenen Praktiken (dazu gleich mehr), nicht für den normalen KI-Einsatz. Der zweite Satz ist die Zertifizierungsangst: „Dann müssen wir ja alles prüfen und CE-kennzeichnen lassen.“ Auch das trifft die allermeisten Unternehmen nicht, weil diese Pflichten fast ausschließlich Anbieter von Hochrisiko-Systemen betreffen. Zwischen diesen beiden überzogenen Ängsten liegt die eigentliche, viel nüchternere Realität – und die lohnt sich zu verstehen, bevor man aus Panik entweder überreguliert oder das Thema komplett ignoriert.

Zuerst die wichtigste Einordnung: Der AI Act ist kein zweites Datenschutzgesetz. Die DSGVO fragt, ob personenbezogene Daten rechtmäßig verarbeitet werden. Der AI Act fragt etwas anderes – ob ein KI-System als Produkt sicher, nachvollziehbar und fair ist. Es ist Produktsicherheitsrecht, näher an der Logik einer Maschinen- oder Spielzeugrichtlinie als an der DSGVO. Dasselbe KI-System kann beide Regelwerke gleichzeitig auslösen, aber mit unterschiedlicher Logik – ein Punkt, auf den wir am Ende zurückkommen.

Die Risikopyramide – und warum die meisten weiter unten stehen, als sie denken

Der AI Act staffelt alle Pflichten nach dem Risiko, das von einem KI-System ausgeht. Vier Stufen, von oben nach unten:

• Verboten (inakzeptables Risiko): Social Scoring durch Behörden, manipulative Systeme, die gezielt Schwächen ausnutzen, biometrische Echtzeit-Fernidentifikation im öffentlichen Raum (mit engen Ausnahmen), Emotionserkennung am Arbeitsplatz und in Schulen. Diese Praktiken sind schlicht untersagt – hier liegt die 35-Millionen-Strafe.
• Hochrisiko: KI in klar umrissenen sensiblen Bereichen – Personalauswahl und Bewerber-Screening, Kreditwürdigkeitsprüfung, Risikobewertung in Versicherungen, Zugang zu Bildung, kritische Infrastruktur. Hier liegen die schweren Pflichten (Dokumentation, menschliche Aufsicht, Konformitätsbewertung).
• Begrenztes Risiko (Transparenzpflicht): Chatbots und generative KI. Die Kernpflicht ist überschaubar – der Mensch muss erkennen können, dass er mit einer KI interagiert bzw. dass ein Inhalt KI-generiert ist (Kennzeichnung von Deepfakes/synthetischen Medien).
• Minimales Risiko: der große Rest – Spamfilter, KI in Spielen, die meisten internen Produktivitäts-Tools. Keine besonderen Pflichten aus dem AI Act.

Die entscheidende, selten klar ausgesprochene Erkenntnis: Der typische Mittelstands-Einsatz von KI – ein Team nutzt ChatGPT, ein Chatbot beantwortet Standardfragen, eine Automatisierung sortiert E-Mails – landet fast immer in den unteren beiden Stufen. Nicht weil man Glück hat, sondern weil „Hochrisiko“ im Gesetz sehr eng und über eine konkrete Liste (Annex III) definiert ist. Der erste sinnvolle Schritt ist deshalb kein Compliance-Projekt, sondern eine ehrliche Inventur: Welche KI-Systeme setzen wir wo ein, und in welche Stufe fällt jedes einzelne? Bei den meisten Unternehmen ist diese Liste kürzer und harmloser, als die allgemeine Nervosität nahelegt.

Die wichtigere Frage ist nicht „welches Risiko“, sondern „welche Rolle“

Der Aufwand, den der AI Act dir tatsächlich abverlangt, hängt weniger vom Risiko ab als von deiner Rolle in der Wertschöpfungskette. Das Gesetz unterscheidet vor allem zwei: den Anbieter (Provider) und den Betreiber (Deployer). Ein Anbieter entwickelt ein KI-System und bringt es unter eigenem Namen auf den Markt – ihn treffen die schweren Pflichten: technische Dokumentation, Konformitätsbewertung, CE-Kennzeichnung, Eintrag in eine EU-Datenbank. Ein Betreiber nutzt ein KI-System für eigene professionelle Zwecke – seine Pflichten sind selbst im Hochrisiko-Fall deutlich leichter: menschliche Aufsicht sicherstellen, Protokolle aufbewahren, betroffene Mitarbeitende informieren, gegebenenfalls eine Grundrechte-Folgenabschätzung.

Für die allermeisten Unternehmen ist das die eigentliche Entlastung: Wer KI einkauft und einsetzt, ist Betreiber – nicht Anbieter. Die CE-Kennzeichnung, vor der sich viele fürchten, ist die Aufgabe dessen, der das System herstellt, nicht dessen, der es benutzt.

Die Falle: wie du unbemerkt zum „Anbieter“ wirst

Hier liegt die praktisch wichtigste und am wenigsten diskutierte Erkenntnis. Die Grenze zwischen Betreiber und Anbieter ist durchlässig – und man kann sie überschreiten, ohne es zu merken. Das Gesetz macht aus einem Betreiber einen Anbieter (mit dessen schweren Pflichten), wenn er ein Hochrisiko-System unter seinem eigenen Namen oder seiner Marke einsetzt, wenn er ein bestehendes System wesentlich verändert, oder wenn er den Zweck eines Systems so verändert, dass es dadurch zum Hochrisiko-System wird. Auch wer ein allgemeines KI-Modell nachtrainiert oder tiefgreifend anpasst, kann in diese Rolle rutschen. Für ein Unternehmen, das KI nicht nur einkauft, sondern eigene Anwendungen darauf baut oder bestehende Systeme stark umbaut, ist das die entscheidende Linie – und sie gehört an den Anfang eines Projekts, nicht in eine nachträgliche Prüfung, wenn Architektur und Branding längst stehen.

Die eine Pflicht, die schon heute gilt – und die fast niemand umgesetzt hat

Während alle auf die großen Hochrisiko-Fristen starren, ist eine Pflicht längst in Kraft und trifft ausnahmslos jedes Unternehmen, das KI einsetzt: die AI-Literacy-Pflicht aus Artikel 4. Sie gilt seit dem 2. Februar 2025, unabhängig von der Risikostufe der eingesetzten Systeme. Kern: Unternehmen müssen dafür sorgen, dass ihre Mitarbeitenden – und andere, die in ihrem Auftrag mit den KI-Systemen arbeiten – über ein ausreichendes Maß an KI-Kompetenz verfügen. Nicht als Zertifikat, nicht mit vorgeschriebenem KI-Beauftragten oder Governance-Gremium – aber als nachweisbar getroffene Maßnahme. Die EU-Kommission stellt ausdrücklich klar, dass es in der Regel nicht genügt, den Leuten einfach die Bedienungsanleitung zu geben.

Das ist aus zwei Gründen die praktisch relevanteste Stelle des ganzen Gesetzes für den Mittelstand. Erstens: Sie gilt jetzt, während fast alles andere in der Zukunft liegt – und ab dem 3. August 2026 ist sie durch die Aufsichtsbehörden durchsetzbar. Zweitens: Sie ist im Verhältnis zu ihrer Wirkung extrem günstig umzusetzen (strukturierte interne Schulung, dokumentiert) und deckt sich mit etwas, das ohnehin Sinn ergibt – dass Menschen verstehen, womit sie arbeiten. Die Vereinfachungsreform von 2026 hat die Formulierung sogar entschärft („die Entwicklung von KI-Kompetenz unterstützen“ statt ein bestimmtes Niveau garantieren) – der Kern bleibt. Wer im ganzen AI Act nur eine Sache anpackt, sollte es diese sein.

Der bewegliche Zeitplan – und warum „wir warten aufs Gesetz“ die falsche Strategie ist

Der AI Act ist am 1. August 2024 in Kraft getreten, greift aber gestaffelt. Wichtig für die Planung ist, klar zu trennen, was schon gilt und was verschoben wurde:

• Seit 2. Februar 2025 in Kraft: das Verbot der inakzeptablen Praktiken und die AI-Literacy-Pflicht (Art. 4).
• Seit 2. August 2025 in Kraft: die Regeln für allgemeine KI-Modelle (GPAI) und die Governance-Strukturen.
• Ab 2. August 2026: die Transparenzpflichten (Kennzeichnung von KI-Interaktion und KI-generierten Inhalten); ab 3. August 2026 sind die Aufsichts- und Durchsetzungsregeln scharf.
• Verschoben: die Hochrisiko-Pflichten. Für eigenständige Hochrisiko-Systeme (Annex III) von August 2026 auf den 2. Dezember 2027, für in regulierte Produkte eingebettete Systeme (Annex I) auf den 2. August 2028.

Diese Verschiebung ist frisch und war lange unsicher: Die EU-Kommission legte im November 2025 ein Vereinfachungspaket („Digital Omnibus“) vor, das Parlament stimmte am 16. Juni 2026 zu, der Rat gab am 29. Juni 2026 grünes Licht – erst damit sind die neuen Fristen geltendes Recht. Daraus folgt eine unbequeme, aber wichtige Erkenntnis: Der Rechtsrahmen für KI iteriert inzwischen selbst wie Software – er wird angepasst, während man ihn umsetzt. Wer daraus „dann warten wir eben, bis alles final ist“ ableitet, missversteht die Lage: Ein Teil gilt längst (siehe Art. 4), und die Richtung – Vereinfachung, aber keine Rücknahme der Grundstruktur – ist klar. Die kluge Konsequenz ist nicht Stillstand, sondern flexibel zu bauen: KI-Systeme so einzuführen, dass sich Rolle, Risikoeinstufung und Nachweise nachrüsten lassen, ohne alles neu zu bauen.

Was das konkret bedeutet – nach Betroffenen

Der AI Act trifft drei Gruppen unterschiedlich, und es lohnt sich, sie auseinanderzuhalten:

• Unternehmen als Betreiber (der Normalfall): KI-Einsätze inventarisieren und in die Risikopyramide einordnen, die AI-Literacy-Pflicht jetzt erfüllen, bei Chatbots/generativer KI die Transparenzpflicht mitdenken – und die Betreiber/Anbieter-Linie im Blick behalten, sobald eigene Anwendungen gebaut oder Systeme stark verändert werden.
• Privatnutzer und Verbraucher: vor allem Gewinner an Rechten. Man darf erfahren, wann man mit einer KI spricht statt mit einem Menschen; KI-generierte und manipulierte Inhalte müssen gekennzeichnet werden; besonders schädliche Praktiken (Social Scoring, manipulative Ausnutzung von Schwächen, sexuelle Deepfakes) sind verboten. Der AI Act ist für Endnutzer weniger Pflicht als Schutz.
• AI-Anbieter und Entwickler (das schwere Ende): Wer KI-Systeme baut und unter eigenem Namen bereitstellt – erst recht im Hochrisiko-Bereich – trägt die volle Last: technische Dokumentation, Konformitätsbewertung, CE-Kennzeichnung, EU-Datenbank, Vorfallmeldung. Für Anbieter allgemeiner KI-Modelle (GPAI) gelten seit August 2025 eigene Pflichten; Modelle, die vorher am Markt waren, müssen bis 2. August 2027 konform sein.

AI Act und DSGVO: zwei Gesetze, ein System

Ein Denkfehler, der Unternehmen regelmäßig kalt erwischt: „AI-Compliance“ als eine Sache zu behandeln. Es sind zwei Regime mit unterschiedlicher Logik, die dasselbe System gleichzeitig treffen. Die DSGVO fragt: Werden die personenbezogenen Daten rechtmäßig verarbeitet (Rechtsgrundlage, Transfers, Betroffenenrechte)? Der AI Act fragt: Ist das System als Produkt sicher, transparent und fair (Risiko, Rolle, Aufsicht)? Ein KI-gestütztes Bewerber-Screening etwa ist gleichzeitig eine automatisierte Entscheidung im Sinne der DSGVO und ein Hochrisiko-System im Sinne des AI Act – und muss beide Prüfungen bestehen. Wer nur an eines denkt, übersieht die halbe Pflicht. Wir haben die DSGVO-Seite dieser Medaille in einem eigenen Artikel („DSGVO und KI“) ausführlicher behandelt; dieser hier ist die andere Hälfte.

Was jetzt sinnvoll ist

Aus alldem lässt sich ein nüchterner, machbarer Weg ableiten – bewusst keine abschließende Compliance-Blaupause, weil die vom Einzelfall abhängt, sondern die Reihenfolge der Fragen, die eine belastbare Antwort brauchen:

• Inventur und Einordnung zuerst: Welche KI-Systeme nutzen wir, und in welche Risikostufe fällt jedes? Meist ist das Ergebnis beruhigend – und es zeigt, wo überhaupt Handlungsbedarf besteht.
• Die AI-Literacy-Pflicht jetzt erfüllen: strukturierte, dokumentierte Schulung der Mitarbeitenden. Das gilt bereits und ist der beste Aufwand-Nutzen-Hebel im ganzen Gesetz.
• Die Rolle bewusst wählen: Wer eigene KI-Anwendungen baut oder Systeme stark anpasst, sollte früh entscheiden und dokumentieren, ob er in die Anbieter-Rolle gerät – bevor Architektur und Branding stehen.
• Flexibel bauen statt einfrieren: KI so einführen, dass sich Risikoeinstufung, Aufsicht und Nachweise nachrüsten lassen, wenn sich der Rahmen weiter verschiebt.

Keiner dieser Punkte lässt sich mit einer pauschalen Antwort erledigen, und dieser Artikel ersetzt keine Rechtsberatung im Einzelfall. Was sich aber klar sagen lässt: Die teuerste Variante ist, ein KI-System erst produktiv zu bauen und dann festzustellen, dass man versehentlich in die Anbieter-Rolle gerutscht ist oder eine Hochrisiko-Einstufung übersehen hat. Genau diese Fragen – welche Rolle, welche Risikostufe, welche Nachweise – denken wir bei Custom Applications von Anfang an in die Architektur mit ein, statt sie nachträglich zum Problem werden zu lassen.