Kostenfalle KI-API: Wie ein kleines PWA-Update mein Budget sprengte

Und peng, da war auf einmal das Geld weg! Tja, wie kann denn das sein? Mein Vorschuss, den ich normalerweise bei Google AI hinterlegt hatte, um meine PWA zu betreiben, hatte sich auf einmal in Luft aufgelöst. In der Kostenanalyse konnte man sehen, dass sich mit Stichtag 10. Oktober die Kosten auf einmal nahezu verzehnfacht hatten. Wie konnte das passieren?

Zu viele Schleifen: Die Ursache der Kostenexplosion

Der Grund dafür war, dass ich am 10. Oktober eine neue Version meiner PWA installiert hatte. Die hatte unglücklicherweise zu viele Abfrage- beziehungsweise Korrekturschleifen drin, die ich zwar haben wollte, was am Ende aber viel zu viele KI-Anfragen auslöste. Logischerweise ist es so, dass Texte, die mehrere tausend Wörter umfassen, dann schlussendlich mehrfach durch die KI gejagt werden und damit extrem hohe Kosten verursachen.

Nachdem der Agent noch einmal drübergeschaut hatte und wir verschiedene Lösungen diskutiert hatten, haben wir zum Schluss wieder ein Einsparpotenzial von 80 Prozent erreicht. Gleichzeitig tauchte noch ein Fehler auf, bei dem ein KI-Modell tatsächlich noch fest im Code verdrahtet war und damit nicht das richtige Modell genutzt wurde. Tja, man lernt eben aus seinen Fehlern – und man lernt immer weiter.

Kostenmonitoring: Lehren aus teuren Fehlern

Was wäre die richtige Variante gewesen? Nachdem ich das Update installiert hatte, hätte ich sofort zwei, drei Tage später noch mal auf die Kostenanalyse schauen und sehen müssen, dass ich auf einmal jede Menge Geld verbrate. Das ist jetzt schon das zweite Mal, dass ich in diese Falle getappt bin. Nun gut, das passiert eben mal.

Aber zum Glück sind es keine massiven Beträge, die da auf einmal durch den Kamin gegangen sind. Dadurch, dass die KI aktuell nicht automatisch nachlädt, konnte ich rechtzeitig reagieren. Wie heißt es so schön im alten Sprichwort: Jeder Versuch macht klug.