Der vierstufige Rahmen: nicht neu erfunden, nur angepasst
Der US-Standardisierungsbehörde NIST zufolge (Rahmenwerk SP 800-61, jüngste Fassung von April 2025) läuft jeder Sicherheitsvorfall in vier Phasen ab: Vorbereitung, Erkennung und Analyse, Eindämmung/Beseitigung/Wiederherstellung, und Nachbereitung. Dieser Rahmen ist bewährt und muss für KI-Vorfälle nicht neu erfunden werden – er muss nur um AI-spezifische Signale ergänzt werden, die ein klassisches IT-Sicherheitsteam sonst übersieht.
Warum AI-Layer-Vorfälle andere Signale erzeugen
Ein klassischer IT-Vorfall zeigt sich typischerweise über kompromittierte Zugangsdaten oder auffälligen Netzwerk-Traffic. Ein AI-Layer-Vorfall – Prompt Injection in einer produktiven Anwendung, eskalierende Werkzeug-Aufrufe eines Agenten, der Versuch, ein Modell durch gezielte Anfragen auszulesen, promptbasierte Datenexfiltration – sieht auf klassischen Monitoring-Dashboards oft völlig unauffällig aus, weil es sich als normale Anwendungsnutzung tarnt. Wer nur nach klassischen Signalen sucht, übersieht diese Vorfallklasse zuverlässig.
Die vier Phasen, angewendet auf AI-Vorfälle
Vorbereitung bedeutet für KI-Systeme: protokollieren, was ein Agent tatsächlich tut (nicht nur, was er antwortet), bevor überhaupt ein Vorfall vermutet wird. Erkennung und Analyse bedeutet: spezifisch nach AI-Signalen suchen – ungewöhnliche Werkzeug-Aufrufmuster, wiederholte fehlgeschlagene Anweisungsversuche, unerwartete Datenmengen in Ausgaben. Eindämmung bedeutet bei einem Agenten oft: den Agenten stoppen und seine Werkzeug-Rechte sofort entziehen, nicht nur einen Netzwerkzugang sperren. Nachbereitung bedeutet: die zugrunde liegende Rechte-Struktur oder Eingabe-Prüfung anpassen, damit derselbe Vorfalltyp nicht identisch wiederkehrt.
Praxis-Teil: Der Fahrplan vor dem ersten Vorfall, nicht danach
Der wichtigste praktische Rat: dieser Fahrplan gehört erstellt, bevor der erste Vorfall passiert, nicht während er läuft. Konkret heißt das: vorab festlegen, wer im Ernstfall informiert wird, wie ein Agent im Notfall technisch gestoppt werden kann (siehe die architektonische Verteidigung aus einem früheren Modul dieses Kurses), und welche Protokolle im Vorfeld überhaupt vorhanden sein müssen, um im Nachhinein rekonstruieren zu können, was passiert ist. Ein Unternehmen, das diese Fragen erst im laufenden Vorfall beantwortet, verliert wertvolle Zeit genau in dem Moment, in dem sie am teuersten ist.