Warum einzelne Guardrails allein noch keine Struktur sind
„Wir haben Guardrails eingebaut“ ist inzwischen ein Standardsatz in fast jedem Gespräch über AI-Projekte – gemeint sind meist einzelne technische Kniffe: ein Prompt-Filter hier, eine Ausgabe-Prüfung dort. Das Problem ist nicht, dass diese Maßnahmen falsch wären, sondern dass sie ohne eine übergeordnete Struktur schwer zu kommunizieren, zu prüfen und bei einem Kunden- oder Investoren-Gespräch nachzuweisen sind.
Die zwei Frameworks kurz erklärt
Das NIST AI RMF ist eine kostenlose, freiwillige Anleitung der US-Standardbehörde NIST, aufgebaut auf vier Funktionen: Govern (Organisation, Zuständigkeiten, Freigabeprozesse), Map (Kontext und mögliche Schäden eines konkreten AI-Systems verstehen), Measure (Risiken mit Kennzahlen und Tests messbar machen) und Manage (Ressourcen priorisiert einsetzen, um gemessene Risiken zu behandeln). Es ist nicht zertifizierbar – man „besteht“ es nicht, man wendet es an.
ISO/IEC 42001 ist dagegen eine echte Zertifizierungsnorm – die erste internationale Norm für ein AI-Managementsystem. Sie folgt derselben Struktur wie ISO 27001 (Informationssicherheit) und ISO 9001 (Qualität): Wer eines dieser Systeme bereits betreibt, baut ein AI-Managementsystem deutlich leichter auf, statt komplett neu anzufangen.
Der Mythos: ISO 42001 als Rechtsschutz
Der EU AI Act sieht in Artikel 40 eine „Konformitätsvermutung“ vor: Wer nach einem anerkannten Standard arbeitet, darf bestimmte Pflichten als erfüllt annehmen. Der Haken steckt im Wort „anerkannt“ – rechtlich zählt dafür nur ein Standard, der den vollen europäischen Harmonisierungsprozess durchlaufen hat. Für AI-Standards ist das bislang bei keinem Framework der Fall, auch nicht bei ISO 42001 (siehe „Der EU AI Act – was Unternehmen wirklich betrifft“). Eine ISO-42001-Zertifizierung ist deshalb – Stand heute – kein automatischer Rechtsschutz.
Der eigentliche Torwächter: der Einkauf, nicht der Gesetzgeber
Unternehmen kaufen KI-Anwendungsfälle zunehmend fertig ein, statt sie selbst zu bauen. Genau das verändert Lieferanten-Fragebögen: Regulierte Großunternehmen unterscheiden dort inzwischen explizit zwischen „Wir haben eine AI-Richtlinie“ (schwach, siehe „Brauchen wir eine interne AI-Richtlinie?“) und „Wir betreiben ein AI-Managementsystem“ – also genau der Struktur, die NIST AI RMF und ISO 42001 formalisieren. Wer diese Struktur nicht bedienen kann, verliert nicht in erster Linie ein Bußgeld-Risiko, sondern die Ausschreibung.
Von der Funktion zur Guardrail – die Übersetzungstabelle
Die vier NIST-Funktionen sind bewusst abstrakt gehalten, damit sie auf jede Art von AI-System passen – das macht sie als Kommunikationsrahmen wertvoll, aber als Bauanleitung unbrauchbar. Für ein konkretes Projekt lässt sich jede Funktion in eine Kategorie technischer und organisatorischer Guardrails übersetzen: Govern wird zu organisatorischen Guardrails (Freigabeprozesse, Verantwortlichkeiten), Map zu Kontext-Guardrails (welche Daten, welcher mögliche Schaden pro Feature), Measure zu technischen Guardrails (Ausgabe-Prüfung, Tests, Monitoring) und Manage zu Reaktions-Guardrails (Rollback-Fähigkeit, Eskalationsweg, Review-Kadenz).
Warum das für dich als Entscheider zählt
Für die meisten Unternehmen lohnt sich zuerst die Praxis, nicht das Zertifikat: Die Govern/Map/Measure/Manage-Struktur lässt sich in einem laufenden Projekt umsetzen, ohne auf ein Audit zu warten – und ist genau das, was ein Einkaufs-Fragebogen sehen will. Das volle ISO-42001-Zertifikat wird erst relevant, wenn ein Kunde es explizit verlangt. Die vollständige Einordnung, Marktdaten und eine ausführlichere Version der Übersetzungstabelle stehen im Artikel „NIST AI RMF und ISO 42001: Was KI-Governance-Frameworks wirklich bringen – und was (noch) nicht“.