Lücke 1: Generalisierung außerhalb der Trainingsverteilung
Heutige Modelle sind hervorragend darin, Muster zu erkennen, die dem ähneln, was sie in großer Menge gesehen haben. Bei Aufgaben, die klar außerhalb dieses Musters liegen, fällt die Leistung unvorhersehbar ab – nicht graduell, sondern oft abrupt. Ein Coding-Assistent, der Standard-Refactorings zuverlässig meistert, kann bei einer ungewöhnlichen, selten dokumentierten Architektur-Entscheidung plausibel klingende, aber falsche Vorschläge liefern, ohne das selbst zu merken.
Lücke 2: kontinuierliches Lernen ohne Vergessen
Ein Mensch lernt aus jeder neuen Erfahrung dazu, ohne dabei sein bisheriges Wissen zu verlieren. Heutige Modelle sind nach dem Training im Kern eingefroren: Neues Wissen kommt entweder über einen aufwendigen, seltenen Nachtrainingsprozess hinein oder wird nur für die aktuelle Unterhaltung im Kontext mitgegeben (siehe „Wie ‚denkt‘ ein Sprachmodell wirklich?“) – am nächsten Tag ist es wieder weg. Modelle so nachzutrainieren, dass sie dazulernen, ohne älteres Wissen zu überschreiben, ist ein ungelöstes Forschungsproblem.
Lücke 3: Zuverlässigkeit über lange Aufgabenketten
„Agentic AI: vom Chatbot zum autonomen Mitarbeiter“ hat die Fehlerkette bereits erklärt: Fehlerwahrscheinlichkeiten potenzieren sich über viele Schritte. Ein Agent, der bei jedem Einzelschritt zu 95 % zuverlässig ist, liegt nach 20 Schritten nur noch bei rund einem Drittel Erfolgswahrscheinlichkeit. Diese Lücke ist einer der Hauptgründe, warum autonome Agenten heute meist auf kurze, eng begrenzte Aufgabenketten beschränkt bleiben.
Lücke 4: Verankerung in der physischen Welt
„Weltmodelle: auf dem Weg zu physischem Verständnis“ beschreibt die Sim-to-Real-Lücke: Ein System, das in einer Simulation glänzend funktioniert, verhält sich in der unberechenbaren echten Welt oft überraschend fragil. Ein Sprachmodell kann jeden Kochschritt exakt beschreiben, ohne je verstanden zu haben, wie viel Kraft ein Ei zerdrückt.
Lücke 5: verlässliche Selbsteinschätzung
„Wo AI an ihre Grenzen stößt“ hat gezeigt: Ein Modell klingt bei einer falschen Antwort oft genauso selbstbewusst wie bei einer richtigen. Zu wissen, was man nicht weiß, ist eine eigene Fähigkeit – und genau die fehlt heutigen Modellen meist. Das erschwert automatisierte Aufsicht: Ein System, das seine eigene Unsicherheit nicht verlässlich anzeigt, lässt sich schwer automatisiert überwachen (siehe „Mensch im Loop: Wann AI eine Freigabe braucht“).
Warum das für dich als Entscheider zählt
Diese fünf Lücken sind kein Grund, auf AI-Einsatz zu verzichten – sie zeigen nur, wo heute noch menschliche Aufsicht nötig ist. Wer diese Lücken kennt, kann gezielt dort ansetzen, wo AI schon zuverlässig funktioniert (enge, klar begrenzte Aufgaben mit Trainingsdaten-Nähe), statt auf eine Generalität zu warten, die noch nicht existiert.