Bonbonnetje ist ein KI-Agent, der im Produktivbetrieb eingesetzt wird und die Mitarbeiter von Xebian bei der Einreichung von Spesenabrechnungen unterstützt. Der Agent wurde mit dem Agent Development Kit entwickelt und läuft auf der Google Cloud Platform. Bonbonnetje wird von mehreren internen Abteilungen aktiv genutzt und wickelt monatlich Hunderte von Einreichungen erfolgreich ab, wodurch sowohl den Mitarbeitern als auch dem Backoffice wertvolle Zeit eingespart wird.
Warum einen Dienstleister für Spesenabrechnungen?
Sie fragen sich vielleicht: Warum sollten Sie einen Agenten einrichten, der Ihnen bei der Einreichung Ihrer Spesenabrechnungen hilft? Lassen Sie uns das erläutern:
- Weniger Aufwand. Jede Aufgabe, die Sie in weniger als zwei Minuten erledigen können, sollten Sie sofort erledigen. Mit Bonbonnetje reduzieren wir den Zeitaufwand für die Bearbeitung Ihrer Ausgaben auf weniger als eine Minute. Auf diese Weise müssen Sie Ihrer To-do-Liste keine weiteren Punkte hinzufügen – denn wir verstehen Sie: Sie ist ohnehin schon lang genug.
- Geringere Belastung des Backoffice. Unser Sachbearbeiter führt die Überprüfung der Versicherungsbedingungen durch und benachrichtigt den Mitarbeiter, bevor dieser den Antrag einreicht. Dadurch lassen sich Fehler bei der Antragstellung vermeiden, noch bevor diese unser Backoffice-Finanzteam erreichen, was Zeit spart.
- Kosteneinsparung. Zeit ist Geld. Bonbonnetje hilft dabei, wertvolle Zeit sowohl für 1) die Mitarbeiter von Xebia als auch für 2) das Backoffice von Xebia zu sparen. Dies führt zu einer erheblichen jährlichen Kosteneinsparung.
- Lernen. Gibt es eine bessere Methode zum Lernen, als etwas tatsächlich selbst zu entwickeln und bereitzustellen? Die Entwicklung und Wartung von Produktions-Agenten ist anspruchsvoll – und genau das macht sie zu einer wertvollen Übung für unser Team und darüber hinaus.
- Kompetenz. Bei Xebia stellen wir produktionsreife Agenten für unsere Kunden bereit. Daher ist es ein Leichtes, auch interne Agenten zu entwickeln. Lassen Sie uns also unsere eigenen Ratschläge befolgen und unsere Arbeit präsentieren! 😉
... und darüber hinaus vielleicht sogar der wichtigste Grund von allen: die Einreichung von Spesenabrechnungen macht mehr Spaß! 🍬 Wie wertvoll ist es doch, einen ansonsten mühsamen Vorgang in Ihrer Arbeitswoche in etwas Angenehmeres zu verwandeln?
Entwicklung eines Agenten, der läuft und weiterhin läuft
Der zuverlässige, verfügbare und überwachbare Betrieb von Agenten in der Produktionsumgebung ist keine triviale Aufgabe. Dies erfordert Überlegungen hinsichtlich der Sitzungs- und Zustandsverwaltung, der Speicherung von Artefakten, der Überwachbarkeit der Agenten sowie deren Bewertung. Wir haben uns hierfür für die Gemini Enterprise Agent Platform entschieden, die früher als Vertex AI Agent Engine bekannt war. Unsere Konfiguration lässt sich wie folgt veranschaulichen:
Lassen Sie uns nun einige Komponenten genauer betrachten.
Ein Agent in der Produktion: Die notwendigen Voraussetzungen
Um Agenten zu erstellen, sind mehrere Komponenten erforderlich. Wir müssen Tools definieren, Benutzerkonversationen in Sitzungen verfolgen, die jeweils einen Status haben, in der Lage sein, Artefakte wie Bilder, PDFs und andere Dateien zu verarbeiten, und wir müssen Antworten an den Benutzer streamen. Dies muss durch ein Modell unterstützt werden, das wir einbinden können, wie beispielsweise Gemini 3.1 Flash Lite. Dieses muss in einer von uns gewählten Schleife ausgeführt werden und in der Lage sein, auf von uns definierte Sub-Agenten zurückzugreifen – sozusagen als Orchestrator. Wir müssen in der Lage sein, benutzerdefinierte Callbacks in Tool-Aufrufe, LLM-Aufrufe und andere auftretende Lebenszyklusereignisse einzubinden, um den gesamten Ablauf des Agenten zu steuern. Ich denke, Sie haben den Kern der Sache inzwischen verstanden – das kann eine ganze Menge an Verwaltungsaufwand bedeuten.
Hier kommt ein Agentic-Framework ins Spiel – ein Agentic-Framework kann uns durch die Bereitstellung wiederverwendbarer Komponenten dabei helfen, schneller zu entwickeln. Mittlerweile gibt es zahlreiche Agentic-Frameworks. Für diesen Anwendungsfall haben wir uns für das Agent Development Kit (ADK) von Google entschieden. Das ADK umfasst Konzepte wie Sitzungen, Zustand, Speicher, Artefakte und vieles mehr. Es ermöglicht eine einfache lokale Entwicklung über eine Weboberfläche, die Sie durch Ausführen von „ adk web “ starten können. Vor allem aber erstellen wir hier einen Produktions-Agenten. Das bedeutet, dass wir für jedes dieser Konzepte eine skalierbare Lösung benötigen, die stabil und cloud-nativ ausgeführt werden kann. Zudem benötigen wir eine angemessene Beobachtbarkeit aller unserer Agenten-Interaktionen.
An dieser Stelle erfolgt die Anbindung von ADK an die Gemini Enterprise Agent Platform (ehemals Vertex AI Agent Engine), wodurch Sie die folgenden Dienste nutzen können: „ SessionService “, „ ArtifactService “ sowie einen Observability-Stack, der aus „Cloud Trace“, „Cloud Logging“ und „Cloud Monitoring“ besteht. So sehen der Stack und die Anbindung an das verwaltete Angebot aus:
Großartig! Wir verfügen nun über den Kern des Agent-Sets. Um das Ganze in Betrieb zu nehmen, benötigen wir noch einige operative Maßnahmen. Wir nutzen GitHub Actions als Treiber für unsere CI/CD-Anforderungen in Kombination mit Terraform, um die entsprechenden Cloud-Ressourcen bereitzustellen:
Tipp: Die „google/agents-cli“-Skills haben sich bei diesem Vorgang als sehr nützlich erwiesen.
Beobachtbarkeit von Agenten
Agenten sind keineswegs deterministisch, und es ist von entscheidender Bedeutung, über eine geeignete Instrumentierung zu verfügen, damit Ihr Agent überwacht werden kann. Die Gemini Enterprise Agent Platform ist eng mit Lösungen wie Cloud Trace und Cloud Logging integriert. Insbesondere Cloud Trace erweist sich als sehr nützlich, da es uns ermöglicht, alle in einer Sitzung stattfindenden Interaktionen des Agenten zu instrumentieren. Tool-Aufrufe, Übergaben an Sub-Agenten, Latenzen und Ähnliches. Die wesentlichen Konzepte hierbei sind „Traces“ und „Spans“ – wobei ein Trace aus mehreren Spans besteht. Wir können unsere Instrumentierung und die verwalteten Angebote für die von ihnen angestrebte Observability wie folgt visualisieren:
Bitte beachten Sie die Abbildung unter OTel. Hierbei handelt es sich um OpenTelemetry, das sich nahtlos in Cloud Trace integrieren lässt. Ein solcher Trace kann wie folgt aussehen:
... das in einer Trace-/Span-Ansicht eine typische Interaktion eines Agenten mit Bonbonnetje veranschaulicht. Dies ermöglicht es, Latenzengpässe zu lokalisieren und die Fehlersuche zu vereinfachen.
Schlusswort
Bonbonnetje ist ein Agent, der entwickelt wurde, um den Mitarbeitern von Xebia dabei zu helfen, bei der Einreichung ihrer Spesen Zeit zu sparen und den Vorgang unterhaltsamer zu gestalten 🍬. Da der Agent dem Nutzer zudem die für die Spesen geltenden Richtlinien mitteilt, werden Fehler bereits früher in der ERP-Pipeline erkannt, was auch im Backoffice zu Zeitersparnissen führt. Bonbonnetje läuft seit mehreren Monaten stabil in der Produktion auf der Gemini Enterprise Agent Platform und wurde mit dem Agent Development Kit in Zusammenarbeit mit einem KI-Team bei Xebia Data entwickelt.
Wichtige Aspekte beim Betrieb eines Agenten in der Produktionsumgebung sind ein Agent-Framework, skalierbare Lösungen für das Sitzungs-, Zustands- und Artefaktmanagement sowie geeignete Mechanismen zur Beobachtbarkeit.
Dass wir etwas Technisches entwickelt haben, das tatsächlich Zeit spart, freut uns sehr. Vor allem aber hat es einfach riesigen Spaß gemacht, es zu entwickeln. Was für schöne Tage!
Kernteam: Jeroen Overschie, Victor de Oliveira, Jordi Smit, Sinan Çalışır; unser Dank gilt unserem Finanzteam: Susanne van Santen, Koen van Laarhoven, Donna van Ek-Grob, Mark Jansen für die hervorragende Zusammenarbeit sowie Nelli Gofman, Roel Bertens, Jacopo Pierotti, Roy van Santen, Bing Tan, Julian de Ruiter und Yannick Bosch für ihre Beiträge.
Verfasst von
Jeroen Overschie
Machine Learning Engineer
Jeroen is a Machine Learning Engineer at Xebia.
Unsere Ideen
Weitere Blogs
Contact