Letzte Woche habe ich Stellenanzeigen mit KI ausgewertet – jede Anzeige einzeln. Dafür nutzte ich über OpenRouter zunächst Luna von OpenAI, ein vermeintlich günstiges Modell.
Doch dann waren ruckzuck 15 Euro weg.
Das ist kein finanzielles Drama, aber ich hatte die Kosten schlicht unterschätzt. „Günstig“ hatte ich gedanklich als „fällt kaum ins Gewicht“ einsortiert. Die Abrechnung sah das jedoch anders.
Dabei steht bei mir ein Mac mini M4 mit 24 GB Arbeitsspeicher, auf dem Gemma 4 läuft. Die Hardware war also längst vorhanden; ich musste sie lediglich für diese Aufgabe einsetzen.
Eine Woche und ziemlich viele Tokens
Diese Woche hat der Mac die nächsten Auswertungen übernommen. Laut meiner Zählung kamen dabei 65.336.902 Eingabe-Tokens und 18.162.026 Ausgabe-Tokens zusammen – insgesamt knapp 83,5 Millionen.
Tokens sind die Texteinheiten, mit denen ein Sprachmodell arbeitet. Die Zahl sagt noch nichts darüber aus, wie viele Anzeigen ausgewertet wurden oder wie gut die Ergebnisse waren; sie zeigt lediglich das enorme Textvolumen, das durch den Prozess lief.
Gelaufen ist das Modell gemma-4-26b-a4b-it@mxfp4. Es macht diesen Job perfekt und schafft dabei mehr als 60 Tokens pro Sekunde.
Mein Eindruck: Der Kleine hatte fast Langeweile.
Das ist keine gemessene Auslastung, aber die Arbeit lief ohne Probleme durch. Der Rechner wirkte auf mich erstaunlich unbeeindruckt. Während ich eine Woche zuvor überrascht auf die Kosten geschaut hatte, war es nun eher überraschend, wie unspektakulär sich dieselbe Arbeit zu Hause erledigen ließ.
Der Einzelpreis erzählt nur die halbe Geschichte
Eine einzelne Stellenanzeige auszuwerten, klingt nach einer trivialen Aufgabe: Text rein, Auswertung raus. Bei einem günstigen Modell gibt es kaum Anlass, über die Kosten nachzudenken.
Die Rechnung entsteht jedoch durch die Wiederholung. Gerade Aufgaben, die sich gut automatisieren lassen, werden oft ausgeführt. Aus einem kaum beachteten Einzelpreis wird so schnell ein Posten, den man plötzlich doch bemerkt. Das hätte ich vorher besser durchrechnen können.
Beim lokalen Modell verschiebt sich die Kalkulation: Für die nächste Auswertung fällt keine API-Gebühr mehr an. Der Rechner braucht zwar Strom und die Hardware sowie die Einrichtung haben Geld gekostet, aber es ist nicht „kostenlos“. Dennoch steht der Mac bereits hier – für meine Entscheidung zählt daher vor allem, wie viel zusätzliche Arbeit er mit seiner vorhandenen Ausstattung übernehmen kann.
Viel verarbeitet heißt nicht automatisch gut ausgewertet
Aus den Tokenzahlen allein lässt sich kein Modellsieger ableiten. Dafür müsste ich die Ergebnisse systematisch vergleichen: Werden Inhalte korrekt erkannt? Fehlen Angaben? Sind die Auswertungen konsistent?
Auch die exakte Ersparnis lässt sich aus diesen Zahlen nicht seriös berechnen. Dafür fehlen ein vergleichbarer API-Durchlauf und der gemessene Energieverbrauch. Zudem zerlegen unterschiedliche Modelle denselben Text unterschiedlich in Tokens.
Was mich an diesem Versuch interessiert, ist die praktische Frage: Welche Qualität brauche ich für diese spezifische Aufgabe und mit welchem Aufwand erreiche ich sie? Für wiederkehrende Aufgaben muss die Antwort anders lauten als für eine schwierige Einzelaufgabe. Ein Modell muss verlässlich funktionieren; wie gut es bei ganz anderen Aufgaben abschneidet, hilft mir hier nur bedingt.
Was mich die 15 Euro gelehrt haben
Der Versuch hat meinen Blick auf den Rechner auf meinem Schreibtisch verändert. Dort steht deutlich mehr nutzbare Kapazität, als ich anfangs auf dem Schirm hatte.
Sobald zusätzliche Durchläufe keine API-Rechnung mehr erzeugen, verändert sich der Spielraum für Experimente: Man kann andere Fragen stellen, Auswertungen erneut laufen lassen oder Varianten vergleichen. Ob sich das lohnt, hängt dann eher von Zeit und Ergebnisqualität ab.
Die 15 Euro waren dafür ein recht günstiger Denkanstoß. Beim nächsten automatisierten Ablauf werde ich definitiv früher prüfen, was der Mac mini davon übernehmen kann. Er scheint noch Termine frei zu haben.
