Der Tool-Hersteller haftet seltener, als man denkt
Wer ein KI-System einkauft und für eigene Zwecke einsetzt, ist rechtlich Betreiber (siehe Modul 20) – und Betreiber tragen die Verantwortung für den konkreten Einsatz, nicht der Anbieter, der das System gebaut hat. Ein Chatbot-Anbieter haftet in der Regel nicht dafür, dass eine falsche Zusage in eurem Namen gemacht wurde – ihr habt das System in eurem Kundenkontakt eingesetzt.
Was das für den Einsatz von AI in eurem Unternehmen bedeutet
Jede AI-Antwort, die im Namen eures Unternehmens rausgeht, wird rechtlich so behandelt, als hättet ihr sie selbst gegeben. Deshalb ist die Frage nicht „kann uns die AI-Firma verklagen“, sondern „was passiert, wenn unsere AI etwas Falsches sagt oder tut“. Genau deshalb sind Kontrollmechanismen wie menschliche Freigabe bei kritischen Schritten (siehe Modul 13) keine Bürokratie, sondern Risikomanagement.
Wo die Verantwortung sich verschiebt
Es gibt Ausnahmen: Wer ein KI-System selbst baut oder wesentlich verändert, wird zum Anbieter (siehe Modul 20, „Die Falle“) und übernimmt zusätzlich dessen Pflichten. Und wenn ein Anbieter grob fehlerhafte Software liefert – ein nachweisbarer technischer Defekt, keine normale Fehlerquote einer AI –, kann eine Produkthaftung des Herstellers dazukommen. Das ist aber die Ausnahme, nicht die Regel.
Warum das für dich als Entscheider zählt
Vertragsklauseln, die „die AI ist schuld“ behaupten, schützen euch gegenüber euren Kunden in der Regel nicht. Wer AI im Kundenkontakt oder in geschäftskritischen Prozessen einsetzt, sollte von Anfang an einplanen: Wo braucht es eine menschliche Prüfung, bevor etwas nach außen geht oder wirksam wird?