Zwei Rollen, zwei Pflichtenwelten
Ein Anbieter (Provider) entwickelt ein KI-System oder bringt es unter eigenem Namen auf den Markt. Seine Pflichten bei Hochrisiko-Systemen sind umfangreich: ein Risikomanagementsystem über den gesamten Lebenszyklus, technische Dokumentation, Konformitätsbewertung, CE-Kennzeichnung, Eintrag in eine öffentliche EU-Datenbank, ein Qualitätsmanagementsystem und Marktbeobachtung nach der Einführung. Ein Betreiber (Deployer) nutzt ein KI-System für eigene berufliche Zwecke. Seine Pflichten sind selbst im Hochrisiko-Fall deutlich schlanker: das System gemäß Gebrauchsanweisung nutzen, menschliche Aufsicht durch geschultes Personal sicherstellen, betroffene Personen informieren, automatisch erzeugte Protokolle mindestens sechs Monate aufbewahren und – in bestimmten Fällen – eine Grundrechte-Folgenabschätzung durchführen (siehe „Menschliche Aufsicht und die Grundrechte-Folgenabschätzung“).
Die Anbieter-Falle: drei konkrete Auslöser
Man wird Anbieter nicht nur durch Absicht, sondern durch drei klar definierte Handlungen (Art. 25):
- Eigener Markenname: Ihr bringt ein bestehendes Hochrisiko-System unter eurem eigenen Namen oder eurer eigenen Marke auf den Markt – auch wenn ihr es nicht selbst entwickelt habt.
- Wesentliche Änderung: Ihr verändert ein bereits auf dem Markt befindliches Hochrisiko-System so, dass es von der ursprünglichen Konformitätsbewertung nicht mehr gedeckt ist.
- Zweckänderung eines General-Purpose-Systems: Ihr nehmt ein System, das ursprünglich nicht als Hochrisiko eingestuft war, und verändert seinen Zweck so, dass es jetzt in eine Hochrisiko-Kategorie fällt.
Was zählt als „wesentliche Änderung“?
Eine wesentliche Änderung ist keine Bagatellgrenze. Sie liegt vor, wenn eine Veränderung nicht Teil der ursprünglichen Konformitätsbewertung war und die Übereinstimmung mit den Anforderungen beeinflusst – oder wenn sich der beabsichtigte Zweck des Systems ändert. Ein gezieltes Nachtrainieren eines Modells für einen neuen, sensibleren Einsatzzweck reicht dafür bereits aus, auch wenn die technische Grundarchitektur unverändert bleibt.
Praxis-Teil: Der Rollen-Check vor jedem neuen AI-Projekt
Bevor ein neues KI-System eingeführt oder ein bestehendes System angepasst wird, helfen drei Fragen: Wird das System unter eigenem Namen oder eigener Marke weitergegeben? Wird an der Funktionsweise oder dem Verhalten des Systems etwas verändert, das über reine Konfiguration hinausgeht? Wird ein ursprünglich harmloses System für einen neuen, potenziell hochriskanten Zweck eingesetzt? Lautet eine Antwort „ja“, gehört der Rollen-Check an den Anfang der Projektplanung – in die Architektur-Entscheidung, nicht in eine nachträgliche Prüfung, wenn Branding und Code längst feststehen. Diese Einordnung ersetzt keine Rechtsberatung im Einzelfall.