Blog
Token-Ökonomie im Bereich der KI: Wie lassen sich die Kosten für KI-Agenten senken, ohne an Qualität einzubüßen?
Die Token-Ökonomie funktioniert ähnlich wie die Optimierung von Cloud-Kosten: Die Prinzipien sind dieselben, lediglich die Ausgabeneinheit ist neu.
Was versteht man unter KI-Token-Ökonomie?
Die KI-Token-Ökonomie, auch als „Tokenomics“ bezeichnet, ist die Praxis, das Maximum aus jedem Token herauszuholen, den Ihre KI-Agenten ausgeben – genauso wie bei der Cloud-Kostenoptimierung das Maximum aus jedem Euro herausgeholt wird, der für die Cloud ausgegeben wird. Bei den Token handelt es sich hierbei um die Einheiten, die ein KI-Modell liest und schreibt, nicht um Krypto-Token, und auch die Token, die es für das „Denken“ ausgibt, werden bezahlt.
Sie senken die Kosten für KI-Agenten, ohne an Qualität einzubüßen, indem Sie zwei Aspekte gemeinsam messen: was Ihre Agenten tatsächlich tun und wie gut sie es tun. Wenn Sie beide Aspekte im Blick haben, können Sie ein kostengünstigeres Modell, eine niedrigere Denkstufe, eine präzisere Eingabeaufforderung oder bessere Werkzeuge testen und nur die Änderungen beibehalten, die die Qualität gewährleisten.
Warum die Token-Kosten gerade jetzt eine Rolle spielen
Die Token-Ökonomie im Bereich der KI ist derzeit von Bedeutung, da die Verbreitung bereits die Fähigkeit überholt hat, den Wert nachzuweisen. Aus dem „Data & AI Monitor 2026/27“ geht hervor, dass 71 % der befragten Unternehmen mit GenAI-Assistenten arbeiten (63 % im Jahr 2025) und 28 % bereits KI-Agenten im Produktivbetrieb einsetzen oder diese auf mehrere Prozesse ausgeweitet haben. Dennoch geben nur 33 % an, den durch KI geschaffenen Mehrwert vollständig zu erschließen und zu verfolgen – derselbe Anteil wie im Vorjahr –, und 16 % messen den geschäftlichen Nutzen von KI überhaupt nicht.
Der Bericht kommt zu dem Schluss, dass Strategie, Risikobewusstsein und die Einführung von Tools gemeinsam Fortschritte gemacht haben, während die Wertschöpfung auf der Stelle getreten ist. Für die Token-Ökonomie im Bereich der KI stellt diese Lücke das Problem dar: Jeder neue Assistent und jeder neue Agent verursacht zusätzliche Token-Ausgaben, und wenn Sie nicht messen können, was diese Ausgaben bewirken, können Sie nützliche Anwendungen nicht von Verschwendung unterscheiden.
Zwei Möglichkeiten, KI kostengünstiger zu gestalten: das Modell ändern oder die Aufgaben des Agenten anpassen
Die Token-Ökonomie funktioniert ähnlich wie die Optimierung von Cloud-Kosten: Die Prinzipien sind dieselben, lediglich die Ausgabeneinheit ist neu. Es gibt zwei Ansätze.
- Ziehen Sie Alternativen zum Premium-Produkt in Betracht. Wechseln Sie von einem „Frontier Foundation“-Modell zu einem Open-Source-Modell, das Sie selbst hosten und dessen Betrieb kostengünstiger ist. Dieser Ansatz kann Ihnen schnelle Ergebnisse liefern, ohne dass Sie Änderungen am Agenten selbst vornehmen müssen.
- Beobachten Sie, was Ihre Agenten tun. Machen sie Fehler? Geben sie Token für Schritte aus, die nicht zu einem korrekten Ergebnis führen? Dieser Ansatz erfordert Änderungen am Agenten selbst, nicht jedoch an der zugrunde liegenden Infrastruktur, auf der der Agent läuft.
Im weiteren Verlauf dieses Beitrags werden wir näher auf diese Aspekte eingehen.
Man kann nicht optimieren, was man nicht sehen oder messen kann
Zwei Instrumente ermöglichen die Optimierung der Token-Kosten, und sie sollten stets gemeinsam eingesetzt werden.
- Transparenz über ein KI-Gateway. Ein Proxy zwischen Ihren Agenten und dem LLM-Anbieter, der deren Aktivitäten erfasst: Tool-Aufrufe, Wiederholungsversuche, Denkprozesse und die Anzahl der Schritte bis zum Erreichen eines Ziels. Ohne diesen Proxy ist ein Agent eine „Black Box“, und Sie erfahren lediglich, ob er erfolgreich war. Mit ihm können Sie Verschwendung erkennen, beispielsweise wenn jeder Agent für dieselbe einfache Aufgabe sein eigenes Skript schreibt.
- Bewertung anhand eines „Golden Data Set“. Dabei handelt es sich um eine Reihe von Beispiel-Eingaben mit den korrekten, von Menschen überprüften Ausgaben, ähnlich wie beim Testdatensatz in der traditionellen Datenwissenschaft. Dies zeigt, wie gut ein Agent abschneidet, sodass Sie überprüfen können, ob auch bei einer kostengünstigeren Konfiguration die Qualität erhalten bleibt.
Die Sichtbarkeit allein sagt Ihnen nicht, ob eine günstigere Einstellung ausreichend ist, und eine Punktzahl allein gibt keinen Aufschluss darüber, wohin die Spielsteine kommen. Erst die Darstellung der Kosten auf der einen Achse und der Punktzahl auf der anderen ermöglicht es Ihnen, eine Einstellung mit Sicherheit auszuwählen.
Token-Ökonomie im Bereich der KI: Vier Hebel, mit denen Sie die Ausgaben senken können
Sobald Sie Ihre Mitarbeiter einsehen und bewerten können, übernehmen vier Einstellungen den Großteil der Arbeit. Anhand der Anzeigen erfahren Sie, welche davon Sie aktivieren müssen.
| Knopf | Was Sie ändern | Woran erkennen Sie, dass es funktioniert hat? |
|---|---|---|
| Modell | Wechseln Sie von einem Premium-Grundmodell zu einem kostengünstigeren oder einem Open-Source-Modell | Die Bewertung des Golden-Dataset bleibt unverändert |
| Denkebene | Verringern (oder erhöhen) Sie den Umfang der Überlegungen, die das Modell anstellt, bevor es eine Antwort gibt | Bewertung im Vergleich zu den Kosten auf jeder Stufe |
| Anweisung | Formulieren Sie Anweisungen klarer; eine unklare Eingabeaufforderung kann einen Mitarbeiter in die falsche Richtung führen | Der Trace zeigt, was der Mitarbeiter tatsächlich mit der Eingabeaufforderung macht |
| Werkzeuge | Stellen Sie den Mitarbeitern ein gemeinsames, erprobtes Tool zur Verfügung, anstatt jeden einzelnen es neu entwickeln zu lassen | Die Ablaufverfolgung zeigt weniger wiederholte Schritte |
Warum ein günstigeres Modell nicht immer eine niedrigere Rechnung bedeutet
Der Preis pro Token macht nur die Hälfte der Kosten einer Aufgabe aus. Die andere Hälfte ergibt sich daraus, wie viele Token das Modell benötigt, um zu einer richtigen Antwort zu gelangen. Auch das Denken kostet Token; ein höheres Denklevel bedeutet daher höhere Kosten und eine höhere Latenz, wobei die Gewinne mit jedem Schritt geringer werden. Ein kostengünstigeres Modell benötigt möglicherweise deutlich mehr Token als ein leistungsstärkeres, und ein teures Modell auf einem niedrigen Denklevel kann ein kostengünstiges Modell auf einem hohen Denklevel übertreffen. Da Sie dies nicht im Voraus wissen können, sollten Sie es an Ihrer eigenen Aufgabe testen.
In unseren eigenen Nutzungsdaten verbrauchte Haiku, ein deutlich günstigeres Modell als Sonnet, wesentlich mehr Token als Sonnet, wodurch sich der Preisunterschied erheblich verringerte. Haiku ist pro Token günstiger, pro Aufgabe jedoch nicht in gleichem Maße.
Nicht jede Aufgabe erfordert viel Nachdenken
Die Denkstufen weisen in öffentlichen Benchmarks abnehmende Erträge auf. Im „Artificial Analysis Intelligence Index“ bringt der Übergang von „xhigh“ zu „max“ bei GPT-6 Astra nur etwa 0,2 Indexpunkte ein, bei etwa 40 % höheren Kosten pro Aufgabe (Zahlen sind ungefähre Angaben). Dies entspricht auch dem Alltag: Die Zubereitung eines Kaffees erfordert weitaus weniger Denkarbeit als die Lösung einer komplexen mathematischen Aufgabe. Das Gleiche gilt für Agenten, allerdings müssen Sie diesen im Voraus ausdrücklich mitteilen, wie viel Aufwand bzw. wie viele Token sie für ein Problem aufwenden sollen.
Eine klare Anweisung wird die Anzahl der Fehler verringern
Ähnlich wie bei einer Bedienungsanleitung trägt eine klare Anleitung dazu bei, die Anzahl der Fehler eines Mitarbeiters zu verringern. Dies gilt insbesondere für die Nutzung von Tools: Dank klarer Anweisungen kann der Mitarbeiter ein Tool bereits beim ersten Versuch bedienen, anstatt zu raten, wie es verwendet werden soll, und dabei zu scheitern. Durch die Auswertung der Protokolldaten eines Mitarbeiters können Sie dies erkennen und optimieren sowie den Token-Verbrauch senken.
Optimieren Sie die Werkzeuge für die dem Mitarbeiter zugewiesene Aufgabe
Maßgeschneiderte Tools können ebenfalls den Token-Verbrauch senken: Wenn ein Mitarbeiter Informationen suchen oder mit externen Systemen interagieren muss, können maßgeschneiderte Tools den Token-Verbrauch bei der Erledigung dieser Aufgaben reduzieren. Wenn ein Mitarbeiter beispielsweise mit einer API interagieren muss, könnte er dafür ein benutzerdefiniertes Einmal-Skript erstellen; die Bereitstellung eines solchen Skripts als Standardlösung erspart den Aufwand und die Token, die erforderlich wären, um dieses Tool immer wieder neu zu erstellen.
So fangen Sie an: Erfassen, Analysieren, Beraten, Messen
Dieser Kreislauf funktioniert gleichermaßen, unabhängig davon, ob Sie autonome Agenten einsetzen oder Entwicklern KI-Assistenten zur Verfügung stellen:
- Instrumentierung. Erfassen Sie jede Sitzung: Modell, Tokens und Tool-Aufrufe. Wenn der Datenschutz eine Rolle spielt, übertragen Sie nur Metriken.
- Analysieren. Suchen Sie nach Mustern, die Kosten verursachen, ohne den Output zu verbessern, wie z. B. ein „Frontier“-Modell bei einer trivialen Aufgabe, wachsender Kontext, wiederholte Wiederholungsversuche oder offen gelassene Sitzungen.
- Beraten. Geben Sie jedem Team oder Entwickler eine kurze, persönliche Liste mit kostenbezogenen Maßnahmen und den dazugehörigen Belegen.
- Messen. Überprüfen Sie die Daten der nächsten Woche, um festzustellen, welche Empfehlungen umgesetzt wurden, sodass Einsparungen tatsächlich nachweisbar sind und nicht nur behauptet werden.
Bevor Sie eine Aufgabe auf ein kleineres Modell oder eine niedrigere Denkeebene verlagern, überprüfen Sie die Änderung anhand Ihres Referenzdatensatzes.
Fazit: zwei Instrumente, vier Regler
Bei der KI-Token-Ökonomie kommt es auf die richtige Kombination an. Das KI-Gateway gewährt Ihnen Einblick in die „Black Box“, also in die Funktionsweise, mit der ein Agent zu seinem Ergebnis gelangt. Der „Golden Data Set“ liefert Ihnen die Bewertung. Mit beiden können Sie die Regler (Modell, Denkebene, Prompt und Tooling) verstellen und die Einstellung wählen, die das beste Ergebnis im Verhältnis zum Preis liefert. Ohne die Bewertung haben Sie keine Möglichkeit zu sagen, welche Einstellung die beste ist.
Möchten Sie einen besseren Überblick über den Token-Verbrauch und die Kosten für den groß angelegten Einsatz von KI erhalten? Die Daten- und KI-Experten von Xebia können Ihnen dabei helfen, die richtigen Kennzahlen festzulegen, Optimierungsmöglichkeiten zu identifizieren und die KI-Kosten im Zuge der zunehmenden Nutzung zu steuern. Nehmen Sie Kontakt mit unserem Team auf, um Ihre Herausforderungen zu besprechen.
Häufig gestellte Fragen
Verfasst von
Niels Zeilemaker
Global CTO, Data & AI
Niels Zeilemaker helps some of the world’s most recognized enterprises move from data ambition to real, scalable AI execution. With a rare blend of deep technical expertise and hands-on delivery experience, Niels works at the intersection of data platforms, analytics, Generative AI, and emerging agentic systems.
Contact