AI wird pro Token abgerechnet
Die meisten KI-Dienste rechnen nicht pro Anfrage ab, sondern pro Token – den kleinen Textbausteinen aus Modul 2. Und zwar in beide Richtungen: für die Tokens, die du hineingibst (Prompt), und für die, die das Modell herausgibt (Antwort). Längere Prompts und längere Antworten kosten also mehr. Eine einzelne Anfrage kostet oft nur Bruchteile eines Cents – der Hebel liegt in der Menge.
Die vier großen Kostenhebel
Vier Faktoren bestimmen die Kosten: die Länge der Eingabe (wie viel Kontext du mitschickst), die Länge der Ausgabe (wie ausführlich das Modell antwortet), die Modellwahl (ein größeres oder „nachdenkendes“ Reasoning-Modell kostet pro Token mehr, siehe Modul 18) und das Volumen (Anfragen pro Tag mal Tokens pro Anfrage). Multipliziert ergibt das die reale Rechnung.
Warum ein günstigeres Modell bei Masse gewinnen kann
Bei geringem Volumen ist der Preisunterschied zwischen Modellen fast egal. Bei Masse kippt das: Wer täglich Hunderttausende gleichartige Anfragen verarbeitet, für den multipliziert sich jeder Cent Unterschied pro Anfrage. Dann gewinnt oft das kleinste Modell, das die Aufgabe zuverlässig löst – nicht das leistungsstärkste (verwandt mit der Feintuning-Überlegung aus Modul 16).
Hebel zum Senken
Konkret senken lassen sich die Kosten durch kürzere, präzisere Prompts, das passende Modell je Aufgabe (nicht überall das größte), das Zwischenspeichern wiederkehrender Inhalte (Caching) und den Verzicht auf ein Reasoning-Modell, wo die Aufgabe es nicht braucht (Modul 18).
Warum das für dich als Entscheider zählt
Ein Preis pro Anfrage, der winzig aussieht, wird bei Masse zur relevanten Position. Die eigentlichen Kostenhebel sind keine Nebensache, sondern Design-Entscheidungen: Modellwahl und Prompt-Gestaltung bestimmen die Rechnung stärker als der Listenpreis pro Token. Genau deshalb lohnt es sich, sie früh mitzudenken – nicht erst, wenn die erste große Rechnung kommt.