Die meisten ki-chatbots haben das gefühl, mit einer sehr höflichen wand zu sprechen. Sie stellen eine Frage, es gibt Ihnen eine generische Antwort, und wenn Sie etwas Bestimmtes brauchen, stecken Sie in einer Schleife fest. Wir waren alle dort. Das Problem ist, dass wir versuchen, eine einzige LLM-Prompt alles zu tun. Wir bitten es, ein Abrechnungsexperte, ein technischer Guru und ein Verkauf auf einmal näher zu sein. Es ist zu viel. Es wird verwirrt. Es halluziniert.

Der Fix ist, den Aufbau eines Bots zu stoppen und mit dem Aufbau eines Teams zu beginnen. Ich spreche von einem Multi-Agent-AI-Workflow-Tutorial, in dem wir die Arbeit aufteilen. Ein Agent übernimmt die Begrüßung und das Routing, während spezialisierte Agenten die eigentliche Arbeit erledigen. Es ist viel stabiler.

Entwerfen der Triage Logic

Der Triage-Agent ist im Grunde Ihre digitale Empfangsdame. Seine einzige Aufgabe ist es, herauszufinden, was der Benutzer will und sie an den richtigen Ort zu schicken. Wenn Sie diesem Agenten zu viele Anweisungen geben, beginnt er zu überdenken. Ich habe das letztes Jahr auf die harte Tour gelernt, als ich versuchte, einen Support-Bot für einen Kunden mit LangGraph zu bauen. Ich gab dem Triage-Agenten ein 2.000-Wort-Handbuch zur Firmenpolitik. Ergebnis? Es verbrachte drei minuten "denken", bevor es schließlich entschied, dass der benutzer mit der abrechnung sprechen wollte. Es war eine Katastrophe.

Halten Sie die Triage-Logik schlank. Verwenden Sie eine einfache Klassifizierungsaufforderung. Sagen Sie dem Agenten: "Sie sind ein Router." Identifizieren Sie, ob der Benutzer Abrechnung, technischen Support oder Verkäufe benötigt. Wenn Sie sich nicht sicher sind, stellen Sie eine klärende Frage.

Sie können Funktionsaufrufe (oder Werkzeugnutzung) verwenden, um dies zu ermöglichen. Anstatt dass der Agent nur sagt "Ich schicke Sie zur Abrechnung", löst er eine Funktion aus, die route_to_billing()Dies macht den Übergang programmatisch und weniger anfällig für die KI, die nur darüber spricht, wie sie Ihnen helfen wird, ohne es tatsächlich zu tun.

Einrichtung der Specialist Agents

Jetzt bauen wir die Experten auf. Jeder Spezialist braucht seine eigene enge Systemaufforderung und seine eigenen Werkzeuge.

Der Billing Agent

Dieser benötigt Zugriff auf Ihre Zahlungs-API (wie Stripe). Es sollte nicht wissen, wie man einen Softwarefehler beheben kann. Die Aufforderung sollte sich ausschließlich auf Rechnungen, Rückerstattungen und Plan-Upgrades beziehen. Wenn ein Benutzer ihn nach einem technischen Fehler fragt, sollte er so programmiert werden, dass er ihn zurück zur Triage schickt.

Der Tech Support Agent

Hier verbinden Sie Ihre Dokumentation. Normalerweise verbinde ich dies mit einer Vektordatenbank mit RAG (Retrieval-Augmented Generation). Ich erinnere mich an die Einrichtung eines Tech-Agenten für ein SaaS-Tool, das 400 verschiedene API-Endpunkte hatte. Ich habe anfangs GPT-3.5 für das RAG-Retrieval verwendet, und es war ehrlich gesagt ein Durcheinander. Es zitierte immer wieder die falsche Version der Dokumente. Der Wechsel zu GPT-4o verbesserte die Genauigkeit von etwa 60% auf 92% fast über Nacht, obwohl es mich ein bisschen mehr in Token kostete.

Der Sales Agent

Der Verkäufer ist anders. Es muss überzeugend, aber nicht ärgerlich sein. Geben Sie ihm ein Tool, um die Kalenderverfügbarkeit zu überprüfen oder einen Lead direkt in ein CRM wie HubSpot zu schieben.

Gemeinsames Gedächtnis implementieren

Dies ist der Teil, wo die meisten Menschen vermasseln. Wenn ein Kunde dem Triage-Agenten mitteilt, dass seine Bestellnummer # 12345 ist und er dann zum Rechnungssteller verschoben wird, sollte er nicht wieder # 12345 sagen müssen. Nichts tötet eine Benutzererfahrung schneller als "Wie ich dem letzten Bot gesagt habe ..."

Sie brauchen einen gemeinsamen Staat. In einem Multi-Agent-Setup übergeben Sie nicht nur die letzte Nachricht. Sie übergeben ein Zustandsobjekt. Dieses Objekt enthält den Konversationsverlauf, die Benutzermetadaten und alle extrahierten Entitäten (wie diese Bestellnummer).

Ich bin mir immer noch nicht ganz sicher, ob die Verwendung eines Redis-Caches der absolut beste Weg ist, dies für jeden Anwendungsfall zu handhaben, aber es ist das, was wir für die meisten gefunden haben. Der Agent liest den Zustand, führt seine Aufgabe aus und aktualisiert den Zustand, bevor er ihn abgibt. Es ist im Grunde ein gemeinsames Notizbuch, das jeder Agent lesen und schreiben kann.

Testen der Hand-off

Das zu testen ist mühsam. Sie müssen versuchen, es zu brechen. Ich verbringe Stunden damit, meine Agenten zum Looping zu verleiten. Zum Beispiel werde ich dem Rechnungssteller mitteilen, dass meine Zahlung aufgrund eines technischen Fehlers in der App fehlgeschlagen ist. Wenn der Rechnungssteller versucht, den Fehler zu beheben, anstatt mich zurück zum technischen Support zu leiten, ist das System kaputt.

Überprüfen Sie diese drei Dinge:

  • Kontextbindung: Kennt der Spezialist den Namen und das Ziel des Benutzers?
  • Loop Prevention: Hängt der Benutzer zwischen zwei Agenten?
  • Fallback Logic: Was passiert, wenn der Triage-Agent die Anfrage nicht kategorisieren kann?

Manchmal weigern sich die Agenten einfach, die Hand abzuliefern. Sie werden "zu hilfreich" und versuchen, alles selbst zu beantworten. Wenn das passiert, müssen Sie die Systemaufforderungen verschärfen. Seien Sie aggressiv. Sagen Sie ihnen: "Sie dürfen keine Abrechnungsfragen beantworten." Du musst sie leiten.

Es ist ein bisschen ein Balanceakt. Zu streng und der bot fühlt sich roboterhaft an. Zu locker und es wird ein Bube aller Trades, Meister von keiner.

Dies zu bauen ist ein bisschen wie ein Grind, aber es ist der einzige Weg, um produktionsgerechte KI-Unterstützung zu erhalten. Sobald Sie das Routing und den Speicher richtig bekommen haben, ist der Rest nur eine Optimierung der Eingabeaufforderungen.

Sprich bald,

StartMit Team

Ein Kommentar

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder werden markiert *