Der Fahrplan in vier Etappen
Die folgenden vier Etappen bauen aufeinander auf und verweisen auf die jeweiligen Module dieses Kurses, in denen sie im Detail behandelt wurden.
Etappe 1: Sichtbarkeit schaffen
Der Ausgangspunkt ist immer derselbe: Sichtbarkeit vor Verbot. Eine ehrliche Bestandsaufnahme, welche KI-Tools tatsächlich genutzt werden, schließt die Vertrauens-Lücke aus „Die Vertrauens-Lücke: Warum ‚wir haben eine Richtlinie’ nicht reicht“ – ohne diese Grundlage bleibt jede weitere Maßnahme blind.
Etappe 2: Angriffsflächen verstehen
Darauf folgt das Verständnis der konkreten Angriffsmuster: Prompt Injection in direkter und indirekter Form (siehe „Prompt Injection im Detail“), die zehn OWASP-Risikokategorien für agentische Systeme (siehe „Wenn Agenten handeln: die OWASP-Perspektive“) und die Lieferketten-Risiken bei Werkzeugen und MCP-Servern (siehe „Datenlecks und Lieferketten-Risiken“).
Etappe 3: Architektur und Prozesse absichern
Die eigentliche Verteidigung entsteht in der Architektur: geringstmögliche Rechte, echte statt behauptete Isolation, und Freigabe-Gates für unumkehrbare Aktionen (siehe „Architektonische Verteidigung: Rechte, Isolation, Freigabe-Gates“) – ergänzt um das Wissen, dass reine Freigabe-Abfragen ohne durchdachte Gestaltung wirkungslos verpuffen (siehe „Die Freigabe-Müdigkeit: warum ‚ein Mensch prüft’ allein nicht reicht“).
Etappe 4: Für den Ernstfall vorbereitet sein
Die letzte Etappe schließt den Kreis: ein vorbereiteter Incident-Response-Fahrplan (siehe „Praxis: der Incident-Response-Fahrplan“), der schon vor dem ersten Vorfall steht, statt erst währenddessen improvisiert zu werden.
Praxis-Teil: AI-Sicherheit ist ein Prozess, kein Zustand
Keine der sieben Maßnahmen dieses Kurses ist ein einmaliges Projekt, das man abschließt und dann vergisst. Neue Werkzeuge kommen hinzu, neue Angriffsmuster werden bekannt, die eigene Agenten-Landschaft wächst. Der Fahrplan gehört deshalb auf Wiedervorlage: bei jedem neuen KI-Tool, bei jeder wesentlichen Änderung eines bestehenden Agenten und in regelmäßigen Abständen unabhängig davon, ob gerade etwas Auffälliges passiert ist oder nicht.