Technischer Leitfaden

Entwerfen von Tools für LLM-Agenten

Das Entwerfen von Tools für LLM-Agenten bedeutet, die Namen, Beschreibungen, Parameterschemata, Ausgaben und Fehlermeldungen zu schreiben, die ein Sprachmodell liest, um zu entscheiden, welche Funktion wie aufgerufen werden soll.

Hören Sie sich diesen Leitfaden anKI-erzählt · ~3 min

Auf dieser Seite4 Minuten gelesen
  1. Übersicht
  2. Tiefer Einblick
  3. Reale Umsetzung
  4. Die Zukunft des Entwurfs von Tools für LLM-Agenten
  5. In die Tat umsetzen
  6. Entdecken Sie weiter
  7. Häufig gestellte Fragen

Übersicht

Das Modell sieht nie Ihren Code, sondern nur diesen Text, sodass eine vage Beschreibung oder ein schlampiges Schema genauso zuverlässig zu falschen Aufrufen führt wie ein Fehler.

Tiefer Einblick

Eine Tooldefinition besteht aus vier Teilen, von denen das Modell abhängt: einem Namen, einer Beschreibung in natürlicher Sprache, einem Eingabeschema (normalerweise JSON-Schema) und dem Text, den das Tool zurücksendet. Jeder funktioniert wie eine Eingabeaufforderung. Das Modell entscheidet, ob ein Tool aufgerufen wird, indem es das Ziel des Benutzers mit Beschreibungen abgleicht, und es füllt Argumente mithilfe von Parameternamen, Typen, Aufzählungen und Beispielen aus. Gute Namen sind spezifisch und gruppiert. Präfixe wie github_create_issue und jira_create_issue halten die Tools auseinander, wenn ein Agent eine Verbindung zu vielen Diensten herstellt. Gute Beschreibungen geben an, was das Tool tut, wann es verwendet werden sollte, wann nicht und was es zurückgibt, so wie Sie es einem neuen Kollegen unterrichten würden. Parameter sollten sagen, was sie bedeuten: user_id ist besser als id, und eine Aufzählung zulässiger Werte übertrifft eine Freitextzeichenfolge, die das Modell erraten muss. Outputs sind genauso wichtig wie Inputs. Durch die Rückgabe Tausender Zeilen oder roher interner IDs wird das Kontextfenster gefüllt und die wichtigen Informationen ausgeblendet. Bessere Tools geben lesbare Felder zurück, paginieren oder kürzen standardmäßig und bieten manchmal einen prägnanten oder detaillierten Modus. Fehlermeldungen sollten dem Modell mitteilen, was schief gelaufen ist und was als nächstes versucht werden soll, da das Modell sie liest und darauf reagiert. Ein weit verbreitetes Missverständnis ist, dass mehr Tools einen leistungsfähigeren Agenten bedeuten. Jede Definition nimmt auf Schritt und Tritt den Kontext in Anspruch, und sich überschneidende Tools erschweren die Auswahl. Die Genauigkeit nimmt tendenziell ab, wenn die Werkzeugliste länger wird, insbesondere wenn Werkzeuge gleich aussehen. Es gilt kein allgemeiner Grenzwert. Viele Praktiker erkennen Probleme irgendwo in den Dutzenden von Tools, und die üblichen Lösungen bestehen darin, Tools zu konsolidieren, sie bei Bedarf zu laden oder die Arbeit auf spezialisierte Agenten aufzuteilen. Ein weiteres Missverständnis besteht darin, dass Tools eine vorhandene API eins zu eins widerspiegeln sollten. Agenten erzielen in der Regel bessere Ergebnisse, wenn sie weniger Tools auf höherer Ebene benötigen, die sich an den Aufgaben orientieren, die die Mitarbeiter tatsächlich erledigen.

Reale Umsetzung

Ein Supportmitarbeiter hatte zwei Tools: search_orders und get_order. Indem Sie sie in „orders_search_by_customer“ und „orders_get_by_id“ umbenennen und in jeder Beschreibung angeben, wann die andere verwendet werden soll, wird die Anzahl der Anrufe verringert, die an das falsche Tool gesendet werden.

Ein Kalendertool, das ein Freitext-Datumsfeld akzeptierte, zeigte immer „nächsten Dienstag“ an. Durch die Änderung des Schemas, sodass eine ISO 8601-Datumszeichenfolge erforderlich ist, mit einem Beispiel in der Beschreibung wurde eine ganze Klasse von Analysefehlern behoben.

Ein Datenbanktool, das früher einen unformatierten „Fehler 1064“ zurückgab, gibt jetzt „Spalte erstelltes_Datum existiert nicht“ zurück. Verfügbare Datumsspalten: erstellt_at, aktualisiert_at.' Der Agent korrigiert seine Anfrage beim nächsten Versuch, anstatt aufzugeben.

Ein Team stellte einem Agenten 60 nahezu doppelte Endpunkt-Wrapper zur Verfügung. Durch die Zusammenführung in einem Dutzend Tools auf Aufgabenebene, wie z. B. „schedule_meeting“ anstelle separater Aufrufe von „list_users“, „find_free_slots“ und „create_event“, konnte der Agent schneller und kostengünstiger ausgeführt werden.

Die Zukunft des Entwurfs von Tools für LLM-Agenten

Das Werkzeugdesign wird zu einer eigenen Disziplin, mit veröffentlichten Leitlinien von Modellanbietern und gemeinsamen Konventionen, die sich über Protokolle wie das Model Context Protocol verbreiten. Einige Plattformen können jetzt bei Bedarf nach Werkzeugdefinitionen suchen und diese laden, was den Druck verringert, die Listen kurz zu halten, obwohl Beschreibungen immer noch klar genug sein müssen, um gefunden und ausgewählt zu werden. Modelle werden auch verwendet, um Werkzeugbeschreibungen auf der Grundlage von Bewertungstranskripten zu kritisieren und neu zu schreiben. Die Grundregel wird sich wahrscheinlich nicht ändern: Das Modell kann ein Tool nur so nutzen, wie seine Schnittstelle es erklärt, daher bleiben klare Benennungen, strenge Schemata und hilfreiche Fehler im Mittelpunkt.

In die Tat umsetzen

Warum es wichtig ist

  • Kosten und Budget. Architekturentscheidungen beeinflussen über Jahre hinweg die Leistung und die Betriebskosten.
  • Klarere Entscheidungen. Technische Schulungen helfen Teams dabei, den richtigen Stack auszuwählen, nicht nur den neuesten.
  • Qualitätskontrolle. Bessere technische Entscheidungen reduzieren Zuverlässigkeitsvorfälle in der Produktion.

Achten Sie auf

  • Die Optimierung eines Benchmarks kann umfassendere Systemschwächen verbergen.
  • Infrastruktur- und Wartungskosten werden oft unterschätzt.
  • Sicherheits- und Beobachtbarkeitslücken können größer werden, wenn die Systeme komplexer werden.

Nächste Schritte

  1. Definieren Sie vor der Implementierung Latenz-, Qualitäts- und Kostenziele.
  2. Benchmark unter realistischen Last- und Datenbedingungen.
  3. Instrumentenüberwachung auf Fehler, Drift und Benutzereinflüsse.
  4. Bereiten Sie vor der Skalierung Rollback- und Incident-Response-Pfade vor.

Entdecken Sie weiter

Kostenloser Newsletter

Erhalten Sie die tägliche KI-Briefing

Drei verifizierte KI-Geschichten jeden Werktagmorgen, in einfachem Englisch geschrieben. Für immer kostenlos, keine Werbung.

Eine E‑Mail jeden Werktag. Abmelden mit einem Klick. Wir verkaufen oder teilen Ihre Adresse nie.

Testen Sie sich selbst

Take the Designing Tools for LLM Agents quiz

Sofortiges Feedback zu jeder Antwort und ein teilbares Zertifikat mit verifizierbarer ID, sobald Sie einen Kurs bestanden haben.

Quiz starten

Unterstützen Sie kostenlose KI-Bildung. AI Understanding ist eine 501(c)(3) gemeinnützige Organisation – keine Werbung, keine Paywall, nie. Machen Sie eine Spende

Häufig gestellte Fragen

Was sind Designtools für LLM-Agenten?

Das Entwerfen von Tools für LLM-Agenten bedeutet, die Namen, Beschreibungen, Parameterschemata, Ausgaben und Fehlermeldungen zu schreiben, die ein Sprachmodell liest, um zu entscheiden, welche Funktion wie aufgerufen werden soll. Das Modell sieht nie Ihren Code, sondern nur diesen Text, sodass eine vage Beschreibung oder ein schlampiges Schema genauso zuverlässig zu falschen Aufrufen führt wie ein Fehler.

Was nutzt das Modell eigentlich, um zu entscheiden, wie ein Werkzeug aufgerufen wird?

Das Modell sieht nie die Implementierung. Es funktioniert nur über die Textschnittstelle: den Namen, die Beschreibung, das Eingabeschema und alles, was das Tool zurücksendet.

Warum könnte ein Agent Präfixe wie github_create_issue und jira_create_issue verwenden?

Der Namensraum teilt dem Modell mit, zu welchem ​​Dienst ein Tool gehört. Das ist wichtig, wenn mehrere Dienste ähnliche Aktionen anbieten.

Welches Parameterdesign führt am wahrscheinlichsten zu korrekten Argumenten?

Aufzählungen und beschreibende Namen machen Rätselraten überflüssig. Das Modell wählt gültige Optionen aus, anstatt ein Format zu erfinden.

Was macht eine gute Tool-Fehlermeldung aus?

Das Modell liest den Fehler und entscheidet, was als nächstes zu tun ist. Eine Nachricht mit dem Namen des Problems und einer Lösung ermöglicht die Wiederherstellung beim nächsten Aufruf.

Warum kann das Hinzufügen vieler Tools die Agentenleistung beeinträchtigen?

Jede Definition wird mit jeder Anfrage gesendet, die den Kontext verwendet. Auch ähnlich aussehende Tools erschweren es dem Model, das richtige auszuwählen.