Ein Prinzip, vier Stufen
Falls du bereits das Modul „Der EU AI Act – was Unternehmen wirklich betrifft“ kennst: Das Prinzip bleibt dasselbe – vier Stufen (verboten, hochriskant, begrenzt, minimal), gestaffelt nach dem Risiko, das von einem KI-System ausgeht. Was dort bewusst knapp gehalten wurde, geht hier in die Tiefe: die tatsächlichen Kategorien hinter „verboten“ und „hochriskant“ – denn genau diese Details entscheiden, ob ein konkretes Tool in eurem Unternehmen betroffen ist oder nicht.
Die verbotenen Praktiken (Art. 5) – das schmale obere Ende
Ganz oben in der Pyramide steht eine kurze, abschließende Liste vollständig untersagter Praktiken – hier liegen auch die vielzitierten Bußgelder von bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes. Die Liste ist bewusst eng gefasst:
- Social Scoring durch Behörden – die Bewertung von Personen anhand ihres Sozialverhaltens mit nachteiligen Folgen in unabhängigen Lebensbereichen.
- Manipulative oder täuschende Systeme, die gezielt Schwächen bestimmter Gruppen ausnutzen (Alter, Behinderung, wirtschaftliche Notlage), um Entscheidungen zu verzerren.
- Biometrische Echtzeit-Fernidentifikation im öffentlichen Raum – mit engen, gesetzlich definierten Ausnahmen für Strafverfolgung bei schweren Straftaten.
- Emotionserkennung am Arbeitsplatz und in Bildungseinrichtungen – seit dem 2. Februar 2025 grundsätzlich verboten (medizinische/sicherheitsrelevante Ausnahmen ausgenommen).
- Ungezieltes Auslesen von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen zum Aufbau von Gesichtserkennungsdatenbanken.
- Biometrische Kategorisierung, die auf sensible Merkmale wie Rasse, politische Einstellung oder sexuelle Orientierung schließt.
- Predictive Policing, das eine Straftat-Vorhersage für eine Einzelperson allein auf Profiling stützt, ohne objektive, überprüfbare Fakten.
Die Anhang-III-Liste: was wirklich als Hochrisiko gilt
Eine Stufe darunter folgt die Hochrisiko-Kategorie – deutlich größer als die verbotenen Praktiken, aber immer noch eine abschließende, konkrete Liste von Einsatzbereichen, kein offener Auffangbegriff:
- Biometrische Identifizierung und Kategorisierung von Personen.
- Betrieb kritischer Infrastruktur (Energie, Wasser, Verkehr, digitale Infrastruktur).
- Bildung: Zugang zu Bildungseinrichtungen und Bewertung von Lernerfolgen.
- Beschäftigung: Bewerber-Auswahl, Beförderungsentscheidungen, Überwachung und Bewertung der Leistung von Mitarbeitenden.
- Zugang zu wesentlichen privaten und öffentlichen Dienstleistungen: Kreditwürdigkeitsprüfung, Risikobewertung in der Versicherung, Sozialleistungen.
- Strafverfolgung, soweit nicht bereits nach Art. 5 verboten.
- Migration, Asyl und Grenzkontrolle.
- Rechtspflege und demokratische Prozesse, etwa die Unterstützung richterlicher Entscheidungen.
Die Beschäftigungs-Kategorie trifft mehr Unternehmen, als viele denken
Der am häufigsten übersehene Punkt in dieser Liste: „Beschäftigung“ endet nicht bei Bewerber-Screening. Ein KI-System, das die Leistung von Mitarbeitenden überwacht oder bewertet – etwa ein Tool, das Produktivität misst, Verhalten auswertet oder in Beförderungsentscheidungen einfließt – fällt strukturell in dieselbe Hochrisiko-Kategorie wie ein Bewerbungs-Filter. Wer glaubt, „wir nutzen KI ja nur intern für unser eigenes Team“ sei automatisch unkritisch, verwechselt den Adressaten der Regel mit ihrem Anwendungsbereich.
Warum die meisten Anwendungen trotzdem unten landen
Trotz dieser Listen bleibt die zentrale Erkenntnis aus dem Grundlagen-Modul gültig: Ein Chat-Assistent für interne Recherche, ein Standard-Chatbot auf der Website, eine E-Mail-Automatisierung – all das landet fast immer in den unteren beiden Stufen (begrenztes bzw. minimales Risiko), weil es keiner der oben genannten Kategorien entspricht. Die Liste existiert nicht, um jeden KI-Einsatz zu erfassen, sondern um wenige, klar definierte Hochrisiko-Bereiche zu regulieren – der Rest bleibt bewusst leichtgewichtig reguliert.
Praxis-Teil: Die eigene Inventur in drei Fragen
Der praktische Nutzen dieses Moduls liegt nicht im Auswendiglernen der Listen, sondern in ihrer Anwendung auf die eigenen Tools. Für jedes im Unternehmen eingesetzte KI-System helfen drei Fragen in dieser Reihenfolge: Erstens, entspricht der Einsatzzweck einer der sieben Art.-5-Praktiken oben – falls ja, sofort stoppen und rechtlich prüfen lassen. Zweitens, fällt der Einsatzzweck unter eine der acht Anhang-III-Kategorien – falls ja, ist eine gründlichere Prüfung (Rolle, Pflichten, ggf. Folgenabschätzung) nötig, keine Panik, aber auch keine Ignoranz. Drittens, ist es „nur“ ein Chatbot oder ein System, das Inhalte erzeugt – dann greift in der Regel nur eine überschaubare Kennzeichnungspflicht. Bleibt am Ende „keines von beidem“, bestätigt das die Einordnung als minimales Risiko – schriftlich festgehalten, nicht nur gedacht, damit die Inventur im Zweifel nachweisbar ist. Diese Einordnung ersetzt keine Rechtsberatung im Einzelfall – bei Unsicherheit, insbesondere bei einem möglichen Hochrisiko-Treffer, gehört eine Fachperson mit ins Boot.