Vom Workflow zum Agenten

Vom Workflow zum Agenten

0:00 Agenten sind das Thema, über das gerade alle sprechen — und dieses Modul beginnt mit der Feststellung, dass die meisten Features gar keinen brauchen. Das ist keine Koketterie. Ein Agent ist teurer, langsamer, schwerer zu testen und schwerer zu erklären als ein fest verdrahteter Ablauf. Er lohnt sich genau dann, wenn die Reihenfolge der Schritte vorher nicht feststeht.

0:21 Wir schauen uns an, woran man diesen Fall erkennt, welche Bauformen es gibt und welche Grenzen von Anfang an eingezogen gehören.

Die meisten Features brauchen keinen Agenten

0:29 Fangen wir mit der unbequemen Feststellung an — sie erspart Ihnen unter Umständen die restlichen fünf Kapitel dieses Moduls. Agenten sind das Thema, über das gerade alle reden, und die meisten Produktfeatures brauchen keinen. Wir klären deshalb zuerst, woran man den Fall erkennt, in dem sich eine Schleife wirklich lohnt, und woran man den erkennt, in dem eine schlichte Funktion die bessere Wahl ist.

0:51 Ein Ablauf aus Suchen, Antworten und höchstens einem Werkzeugaufruf ist kein Agent, sondern ein Arbeitsablauf mit festgelegter Reihenfolge. Und diese Reihenfolge gehört in Ihren Code, nicht in ein Sprachmodell. Sie ist dort billiger, schneller, leichter zu testen und im Zweifel auch leichter zu erklären — vor allem, wenn hinterher jemand fragt, warum das System etwas getan hat.

1:12 Ein Agent lohnt erst, wenn Zahl und Reihenfolge der Schritte von der Aufgabe abhängen und sich nicht vorab festlegen lassen. Drei Gegenüberstellungen, und die dritte ist die aussagekräftigste: Steuern Zwischenergebnisse das weitere Vorgehen? Wenn ja, brauchen Sie eine Schleife. Wenn nicht, brauchen Sie eine Funktion. Ich empfehle Ihnen im Zweifel den Workflow, und zwar aus einem asymmetrischen Grund: Der Umbau vom Workflow zum Agenten ist später leicht — Sie haben die Werkzeuge ja schon.

1:41 Der Rückbau vom Agenten zum Workflow ist es nicht, weil sich alle daran gewöhnt haben, dass das System schon irgendwie zurechtkommt.

Drei Bauformen im Vergleich

1:49 Wenn es doch ein Agent sein soll, gibt es drei Wege — die Schleife selbst schreiben, einen Helfer des SDK nutzen oder einen gehosteten Agenten verwenden. Die Wahl hängt an zwei Fragen, die weniger technisch sind, als man denkt: Wer soll die Werkzeuge ausführen, und wo dürfen die Daten liegen. Beantworten Sie die beiden, und die Entscheidung fällt fast von selbst.

2:10 Die beiden Fragen lauten: Wer führt die Werkzeuge aus, und wo dürfen die Daten liegen? Bei der ersten Zeile schreiben Sie die Schleife selbst und führen selbst aus — volle Kontrolle, überschaubar viel Code. Bei der zweiten übernimmt eine Bibliothek die Schleife, die Ausführung bleibt bei Ihnen. Bei der dritten macht der Anbieter beides und stellt auch die Umgebung.

2:30 Für ein Feature, das auf interne Systeme zugreift — und das ist bei Talwerk der Fall —, sind die ersten beiden Wege in aller Regel die richtigen. Vier Argumente für den mittleren Weg, und mir gefällt der letzte am besten: Die Werkzeuge bleiben in Ihrem Code und unter Ihren Rechten. Sie geben also die Schleife ab, nicht die Kontrolle. Dazu kommen die Einhängepunkte je Runde — für Freigaben, Protokollierung, das Abfangen von Fehlern.

2:55 Genau die brauchen Sie für alles, was wir in Modul sieben über Bestätigungen gesagt haben. Und Sie müssen die immer gleiche Schleife nicht selbst schreiben, was ehrlicherweise auch kein großer Verlust ist.

Die Schleife und ihre Abbruchkriterien

3:08 Jetzt zu dem Teil, den man zuerst einbaut und danach die Schleife schreibt — nicht umgekehrt. Ich erkläre gleich, warum diese Reihenfolge wichtig ist. Eine Agentenschleife ohne Abbruchkriterien ist ein Kostenrisiko, und sie ist in der Praxis der häufigste Grund für unangenehme Überraschungen auf der Monatsrechnung. Vier Grenzen brauchen Sie mindestens.

3:28 Vier Grenzen, und sie sind nicht der Feinschliff am Ende, sondern das Geländer von Anfang an. Eine Höchstzahl an Runden. Ein Kostendeckel je Vorgang. Eine Gesamtdauer. Und eine Erkennung von Wiederholungen — dreimal derselbe Aufruf mit denselben Argumenten heißt, der Ablauf kommt nicht voran. Wird eine Grenze erreicht, melden Sie ehrlich, was erreicht wurde.

3:50 Still abzubrechen und ein Teilergebnis als Ergebnis auszugeben, ist die schlechtere Variante — sie verschiebt das Problem nur auf den, der die Antwort liest. Sie sehen hier das ganze Muster in wenigen Zeilen, und ich möchte nur auf die Struktur hinweisen: Solange das Modell Werkzeuge anfordert, führen wir sie aus und hängen die Ergebnisse an.

4:11 Vor jeder weiteren Runde prüfen wir die Grenzen. Und wenn die Rundenzahl aufgebraucht ist, gibt es keinen stillen Ausstieg, sondern einen benannten Abbruch. Das ist alles. Agentenschleifen sind technisch unspektakulär — das Anspruchsvolle daran ist nicht der Code, sondern die Disziplin bei den Grenzen.

Der Kontext wächst

4:28 Mit jeder Runde wächst der Nachrichtenverlauf, und irgendwann laufen Sie auf die Grenze des Kontextfensters zu. Was Sie dagegen tun können, sind drei technische Wege — und ein vierter, der eigentlich keiner ist und trotzdem für die meisten Produktfeatures die richtige Antwort darstellt. Wichtig ist vor allem, die Entscheidung bewusst zu treffen statt sie im Betrieb zu entdecken.

4:49 Drei technische Wege und ein vierter, der keiner ist. Alte Werkzeugergebnisse entfernen — dann geht der Bezug auf Früheres verloren. Den Verlauf zusammenfassen — das ist ein eigener Modellaufruf und kann Fehler einführen; besonders unangenehm, wenn dabei die Belege verlorengehen. Zwischenergebnisse auslagern — mehr Code, gezieltes Zurückholen nötig. Und dann die letzte Zeile: den Vorgang so klein schneiden, dass die Frage gar nicht erst entsteht.

5:17 Für die meisten Produktfeatures ist das die richtige Antwort. Vier Fallen. Den Verlauf unbegrenzt wachsen zu lassen und die Grenze erst im Betrieb zu entdecken, ist die erste. Zusammenfassungen zu erzeugen, ohne ihre Qualität je zu prüfen, ist die zweite — Sie schieben dann eine ungeprüfte Übersetzung zwischen Ihre Daten und die Antwort.

5:37 Der dritte Punkt ist der, der mir am meisten Sorge macht: Bei einer Zusammenfassung gehen leicht die Belege verloren, und damit brechen Sie die Zusage aus Modul sechs. Und der vierte: Kontextpflege einzubauen, obwohl der Vorgang von Natur aus kurz ist.

Nebenläufige Werkzeugaufrufe

5:52 Ein kurzes, technisches Kapitel — mit einem still wirkenden Fehler, den fast jeder einmal einbaut. Es geht um den Fall, dass ein Modell in einer Runde mehrere Werkzeuge gleichzeitig anfordert. Das richtig zu behandeln, spart spürbar Zeit; es falsch zu behandeln, macht den Ablauf langsamer, ohne dass irgendetwas fehlschlägt oder die Ursache sichtbar würde.

6:14 Ein Modell kann in einer Runde mehrere Werkzeuge zugleich anfordern, etwa die Verfügbarkeit dreier Ersatzteile. Führen Sie diese Aufrufe nebenläufig aus, das spart Zeit. Erzeugen Sie für jeden Aufruf ein Ergebnis, auch wenn er fehlgeschlagen ist. Und geben Sie alle Ergebnisse in einer einzigen Nachricht zurück. Genau das ist der Punkt, an dem es still schiefgeht: Wer die Ergebnisse auf mehrere Nachrichten verteilt, gewöhnt dem Modell die parallele Anforderung ab.

6:41 Der Ablauf wird langsamer, und niemand sieht, warum. Die ersten beiden Punkte hatten wir gerade. Der zweite verdient trotzdem eine eigene Erwähnung: Ein fehlgeschlagenes Ergebnis wegzulassen, lässt das Modell im Ungewissen — und Ungewissheit führt zuverlässig zu Wiederholungen, also zu Kosten. Der dritte Punkt ist eine Frage der Reihenfolge: Nebenläufigkeit einzubauen, bevor die Werkzeuge dafür sicher sind, erzeugt Probleme, die schwer zu reproduzieren sind.

7:08 Und der vierte: Reihenfolgeabhängigkeiten anzunehmen, die es gar nicht gibt, und deshalb nebenläufig gar nicht erst auszuführen.

Wann ein Agent die richtige Wahl ist

7:16 Nach so viel Zurückhaltung nun der Fall, in dem sich die Schleife wirklich lohnt — und zwar an unserem Talwerk-Beispiel. Sie werden sehen, dass er ein bestimmtes Muster hat: Die Schritte sind bekannt, aber ihre Zahl und Reihenfolge hängen von der Anfrage ab. Genau das ist die Grenze zwischen einem sinnvollen Agenten und einem Freibrief.

7:35 Eine Werkstatt beschreibt ein Fehlerbild, ohne Baureihe und ohne Teilenummer. Jetzt muss das System aus der Rahmennummer die Baureihe bestimmen, im passenden Handbuch die Baugruppe eingrenzen, dort die Prüfschritte nachschlagen, in alten Tickets nach ähnlichen Fällen suchen und daraus einen Vorschlag bauen. Wie viele Schritte das sind, hängt von der Beschreibung ab — mal drei, mal sieben. Das ist der Fall für eine Schleife.

7:58 Und der Unterschied zum Prototyp-Agenten liegt darin, dass vorher jemand aufgeschrieben hat, welche Schritte überhaupt vorkommen dürfen. Damit sind Sie dran. Bauen Sie diesen Ablauf so, dass die Reihenfolge variabel bleibt, die Kosten aber gedeckelt sind. Die Schleife soll einen Fall über mehrere Werkzeuge lösen und bei Runden-, Kosten- oder Zeitgrenze kontrolliert abbrechen — mit einer ehrlichen Meldung, nicht mit einem halben Ergebnis.

8:23 Und legen Sie vorher schriftlich fest, welche Schritte zulässig sind. Ein Tipp aus der Praxis: Wer die Grenzen zuerst einbaut und danach die Schleife, spart sich die erste unangenehme Rechnung. Danach kommt das wichtigste Modul dieses Seminars.