Woher Verzerrung kommt
Ein Sprachmodell lernt Muster aus riesigen Mengen Text (siehe Modul 2) – und übernimmt dabei auch die Verzerrungen, die in diesen Daten stecken. Enthalten die Trainingsdaten überproportional bestimmte Perspektiven oder historische Ungleichheiten, spiegelt das System sie in seinen Antworten wider, ohne dass das jemand beabsichtigt hätte.
Wo Bias wirklich zählt
Nicht jede Verzerrung ist gleich riskant. Bei einer Textzusammenfassung ist ein leichter stilistischer Bias meist unkritisch. Bei Personalauswahl, Kreditvergabe oder medizinischen Einschätzungen (siehe Modul 20, Hochrisiko-Bereiche) kann derselbe Effekt echte Menschen benachteiligen – und ist genau deshalb im AI Act besonders geregelt.
Wie man Bias tatsächlich prüft
Ergebnisse nach Gruppen aufschlüsseln
Nicht nur die Gesamt-Erfolgsquote betrachten (siehe Modul 19, Evals), sondern prüfen, ob sie sich zwischen relevanten Gruppen deutlich unterscheidet.
Mit absichtlich vielfältigen Testfällen prüfen
Testbeispiele bewusst so wählen, dass unterschiedliche Hintergründe, Formulierungen und Situationen abgedeckt sind – nicht nur der naheliegendste Standardfall.
Regelmäßig wiederholen, nicht einmalig
Ein System, das heute fair testet, kann es nach einem Update oder mit neuen Daten nicht mehr sein – Bias-Prüfung gehört zum laufenden Betrieb, nicht nur zum Projektstart.
Warum das für dich als Entscheider zählt
„Unsere AI ist neutral“ ist eine Behauptung, keine automatische Eigenschaft. Wer AI in Bereichen mit Personenbezug einsetzt, sollte konkret fragen: Wurde nach Gruppen aufgeschlüsselt getestet, und wie oft wird das wiederholt?