Der Mythos des perfekten prompt

Ich habe letztes jahr drei wochen damit verbracht, über eine einzige anfrage für den führenden qualifikationsbot eines kunden nachzudenken. Ich benutzte GPT-4, und ich glaubte wirklich, dass, wenn ich nur den richtigen Satz hinzufügen würde, wie "Denken Sie Schritt für Schritt" oder "Sie sind ein Weltklasse-Analyst", die Halluzinationen aufhören würden. Ich erinnere mich, dass ich vier Stunden an einem Dienstag damit verbracht habe, einen Absatz mit Anweisungen zu optimieren und "sei prägnant" in "Begrenzung der Antworten auf 50 Wörter" zu ändern, weil ich dachte, ich wäre am Rande eines Durchbruchs.

Es hat nicht funktioniert. Nicht wirklich. Ich bekam die Genauigkeit von 72% auf 78%, aber es scheiterte immer noch auf seltsame, unvorhersehbare Weise. Das ist die Falle. Uns wurde gesagt, dass schnelles Engineering die geheime Soße ist, aber für die tatsächliche Geschäftszuverlässigkeit ist es eine Art Sackgasse. Sie können sich nicht aus der inhärenten Zufälligkeit eines probabilistischen Systems herausführen. Design einer ausfallsicheren Datenpipeline Der Agent Fundamentals Guide

Prompting bittet die KI nur, sich mehr anzustrengen. Aber in einer professionellen Umgebung, "versuchen härter" ist keine Metrik. Wir brauchen Ergebnisse, die überprüfbar sind.

Warum LLMs sind schrecklich bei der Bewertung ihrer eigenen Hausaufgaben

Die meisten Leute versuchen, KI-Fehler zu beheben, indem sie eine zweite Aufforderung hinzufügen: "Überprüfen Sie jetzt Ihre vorherige Antwort und korrigieren Sie alle Fehler." Das fühlt sich schlau an, weil es nachahmt, wie Menschen arbeiten. Wir lesen Korrektur. Wir überprüfen es noch einmal.

Aber LLMs sind keine Menschen. Sie leiden unter etwas, das Sycophancy genannt wird. Wenn die KI im ersten Durchgang einen Fehler gemacht hat, ist es sehr wahrscheinlich, dass sie diesen Fehler entweder verdoppelt oder Ihnen einfach sagt, dass sie ihn behoben hat, ohne tatsächlich etwas zu ändern. Ich habe dies mit einem Python-Skript für ein Datenmigrationsprojekt mit Claude 3 versucht. Die KI halluzinierte immer wieder eine bestimmte Bibliotheksfunktion, die nicht existierte. Ich bat sie, ihre Arbeit dreimal zu überprüfen. Jedes Mal entschuldigte es sich und gab mir dann genau den gleichen kaputten Code. Es war, als würde man mit einer Wand streiten, die sehr höflich, aber völlig falsch ist.

Das Problem ist, dass die KI die gleiche Logik verwendet, um die Antwort zu überprüfen, wie sie es verwendet hat, um die Antwort zu generieren. Wenn die Logik fehlerhaft ist, ist die Überprüfung fehlerhaft. Es ist eine geschlossene Fehlerschleife.

AI Loop Engineering vs. promptes Engineering

Hier wechseln wir von prompt engineering zu AI loop engineering. Anstatt zu versuchen, den perfekten Satz von Anweisungen zu schreiben, bauen wir ein System, das die KI zwingt, mit einer Quelle der Wahrheit außerhalb ihres eigenen "Gehirns" zu interagieren.

Loop Engineering bedeutet, externe Verifizierungsschritte zu erstellen. Anstatt die KI zu fragen: "Ist das richtig?", Bauen Sie eine Schleife, in der die Ausgabe der KI an ein Werkzeug gesendet wird, das tatsächlich beweisen kann, dass es falsch ist. Wenn die KI beispielsweise einen Code generiert, fordert die Schleife keine andere KI auf, ihn zu überprüfen; sie sendet den Code an einen Compiler. Wenn der Compiler einen Fehler ausgibt, wird dieser Fehler an die AI zurückgeführt, um ihn zu beheben. Jetzt haben Sie eine faktische Feedbackschleife.

Ich könnte mich irren, ob dies für jeden einzelnen Anwendungsfall skaliert, aber für alles, was Daten oder Logik betrifft, ist es die einzige Möglichkeit, nachts zu schlafen. Es ist der Unterschied zwischen der Hoffnung, dass die KI richtig ist, und dem Wissen, dass sie richtig ist, weil ein Drittsystem die Ausgabe verifiziert hat.

Wechsel von Tweaks zum Systemdesign

Ein System zu entwerfen ist schwieriger als eine Eingabeaufforderung zu schreiben. Es erfordert, über Architektur und nicht über Adjektive nachzudenken. Sie müssen den Fluss abbilden: Generation -> Verifizierung -> Korrektur -> Endausgabe.

Vor kurzem haben wir ein System für einen Kunden entwickelt, der die Rechnungsverarbeitung abgewickelt hat. Wir hätten Monate damit verbringen können, die KI dazu zu bringen, "sehr vorsichtig mit den Zahlen umzugehen". Stattdessen bauten wir eine Schleife, die die Summen extrahierte und dann ein einfaches Python-Skript ausführte, um die Zeilenelemente zu addieren. Wenn die Gesamtsumme der KI nicht mit der Summe des Skripts übereinstimmte, lehnte das System die Ausgabe ab und sagte der KI genau, wo die Mathematik fehlschlug. Die Genauigkeit stieg fast über Nacht auf 99,4%. Keine Menge "prompt Hacking" hätte uns dorthin gebracht.

Es ist ein Wandel in der Denkweise. Wir müssen aufhören, das LLM als die gesamte Lösung zu behandeln und es als eine Komponente in einer größeren Maschine zu behandeln. Der LLM ist der Motor, aber Sie brauchen immer noch Bremsen, ein Lenkrad und ein Armaturenbrett, um zu wissen, ob Sie tatsächlich in die richtige Richtung gehen.

Die meisten Unternehmen befinden sich noch in der "vorantreibenden" Phase. Sie fügen nur mehr Wörter zu ihren Anweisungen hinzu und fragen sich, warum die KI immer noch 10% der Zeit durcheinander bringt. Diese 10% sind, wo das Risiko lebt. Und Sie können kein Risiko auslösen; Sie können nur Systeme bauen, um es zu fangen.

Wie auch immer, ich finde immer noch den besten weg, um mit der latenz umzugehen, die mit diesen schleifen kommt. Es ist ein bisschen langsamer und ehrlich gesagt kann es frustrierend sein, wenn Sie nur eine sofortige Antwort wollen. Aber ich würde lieber fünf Sekunden auf eine richtige Antwort warten, als in einer halben Sekunde eine falsche Antwort zu bekommen.

Sprich bald,

SM

Verwandtes Lesen

5 Antworten

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder werden markiert *