Warum Leistung nicht mehr der Engpass ist
Für viele Aufgaben liefern heutige Modelle bereits beeindruckende Ergebnisse. Was den breiten Einsatz in Hochrisiko-Bereichen bremst, ist etwas anderes: die Unsicherheit, ob eine einzelne Antwort korrekt ist, und die fehlende Nachvollziehbarkeit, warum das Modell zu ihr kam (siehe „Wo AI an ihre Grenzen stößt“).
Interpretierbarkeits-Forschung: ins Innere schauen
Ein aktiver Forschungszweig („mechanistic interpretability“) versucht zu verstehen, welche internen Muster und Konzepte ein Modell tatsächlich verwendet, um zu einer Antwort zu kommen – vergleichbar mit dem Versuch, ein Gehirn Neuron für Neuron zu entschlüsseln. Erste Fortschritte gibt es beim Identifizieren einzelner, klar abgrenzbarer Konzepte in großen Modellen.
Unsicherheits-Kalibrierung: wissen, wann man unsicher ist
Ein zweiter Forschungsansatz zielt darauf, dass ein Modell selbst zuverlässig einschätzt, wie sicher es sich bei einer Antwort ist – statt jede Antwort gleich selbstbewusst zu formulieren. Gut kalibrierte Unsicherheit würde erlauben, unsichere Antworten automatisch an einen Menschen weiterzugeben, statt sie durchgängig gleich zu behandeln.
Realistische Einordnung
Beide Forschungsrichtungen sind aktiv, aber weit von einer vollständigen Lösung entfernt. Für konkrete, geschäftskritische Anwendungen ist deshalb heute die praktische Antwort nicht „warten, bis das Modell sich selbst erklärt“, sondern eigene Prüfprozesse aufzubauen (siehe „Wie man wirklich prüft, ob eine AI-Lösung funktioniert“). Ob und wann die Forschung das grundlegend löst, ist nicht verlässlich vorhersagbar – der Fortschritt ist stückweise, nicht sprunghaft.
Warum das für dich als Entscheider zählt
Die Vertrauens-Lücke – nicht die Rohleistung – entscheidet, welche AI-Einsätze heute schon vertretbar sind. Je höher das Risiko einer Aufgabe, desto wichtiger werden externe Kontrollen (siehe „Mensch im Loop: Wann AI eine Freigabe braucht“) – unabhängig davon, wie beeindruckend ein Modell in Demos wirkt.