Als nächstesNächster Leitfaden
Selbstreflexion in Agentenschleifen
Technisch
Technischer Leitfaden
Werkzeugformer und autodidaktischer Werkzeuggebrauch
Toolformer ist eine 2023 Meta KI-Methode, die es einem Sprachmodell ermöglicht, sich selbst beizubringen, wann und wie externe Tools wie Taschenrechner, Suchmaschinen und Übersetzer aufgerufen werden.
Auf dieser Seite2 Minuten gelesen
Übersicht
Instead of humans labeling tool calls, the model generates and filters its own training examples, then fine-tunes on the ones that actually help.
Tiefer Einblick
Toolformer, von Schick et al. bei Meta AI geht ein Paradoxon an: Große Modelle sind gut in Sprache, aber schlecht in Arithmetik, frischen Fakten und präzisen Nachschlagevorgängen. Die Trainingsschleife ist selbstüberwacht. Das Modell erhält eine Handvoll von Menschen geschriebener Beispiele, die die Syntax von API-Aufrufen zeigen, und wird dann aufgefordert, Kandidatenaufrufe (eingepackt in spezielle Token) an vielen Positionen in einem großen Textkorpus einzufügen. Jeder Kandidatenaufruf wird tatsächlich ausgeführt und das Ergebnis wird eingefügt. Der Schlüsselfilterungsschritt behält einen Toolaufruf nur dann bei, wenn das API-Ergebnis die Verwirrung des Modells über den bevorstehenden echten Text mehr verringert als kein Aufruf oder ein anderer Aufruf. Anschließend wird das Modell anhand dieses gefilterten, selbst generierten Datensatzes verfeinert und lernt, fünf Tools aufzurufen: einen Taschenrechner, ein QS-System, eine Suchmaschine, einen Übersetzer und einen Kalender.
Strategische Auswirkungen
Kosten und Budget
Architekturentscheidungen beeinflussen über Jahre hinweg die Leistung und die Betriebskosten.
Klarere Entscheidungen
Technische Schulungen helfen Teams dabei, den richtigen Stack auszuwählen, nicht nur den neuesten.
Qualitätskontrolle
Bessere technische Entscheidungen reduzieren Zuverlässigkeitsvorfälle in der Produktion.
Die Zukunft von Toolformer und autodidaktischem Werkzeuggebrauch
Toolformer hat die heutigen Werkzeug-verwendenden und funktionsaufrufenden Agenten entwickelt. Die Grenze verschiebt sich von einer festen Handvoll Tools zu Dutzenden oder Hunderten, die zur Laufzeit entdeckt werden, wobei Modelle überlegen, welches Tool aufgerufen werden soll, Aufrufe verketten und Fehler behandeln. Erwarten Sie eine engere Integration mit Verstärkungslernen und Agentenschleifen sowie das spontane Erlernen neuer APIs, sodass die selbst erlernte Werkzeugnutzung zu einer Standardfunktion und nicht zu einer speziellen Feinabstimmung wird.
Reale Umsetzung
Aufrufen einer Taschenrechner-API mitten im Satz, um eine exakte Arithmetik zu erhalten, anstatt eine numerische Antwort zu erraten.
Abfragen eines Such- oder QA-Systems, um aktuelle oder selten gesehene Sachinformationen abzurufen.
Aufrufen eines maschinellen Übersetzungstools, um einen Satz in einer anderen Sprache innerhalb des generierten Textes wiederzugeben.
Verwenden eines Kalender-/Datumstools, um relative Bezüge wie „nächsten Freitag“ zu einem konkreten Datum aufzulösen.
Risiken und Leitplanken
Die Optimierung eines Benchmarks kann umfassendere Systemschwächen verbergen.
Infrastruktur- und Wartungskosten werden oft unterschätzt.
Sicherheits- und Beobachtbarkeitslücken können größer werden, wenn die Systeme komplexer werden.
Implementierungs-Roadmap
Definieren Sie vor der Implementierung Latenz-, Qualitäts- und Kostenziele.
Benchmark unter realistischen Last- und Datenbedingungen.
Instrumentenüberwachung auf Fehler, Drift und Benutzereinflüsse.
Bereiten Sie vor der Skalierung Rollback- und Incident-Response-Pfade vor.
Entdecken Sie weiter
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Toolformer and Self-Taught Tool Use quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Häufig gestellte Fragen
What is Toolformer and Self-Taught Tool Use?
Toolformer ist eine 2023 Meta KI-Methode, die es einem Sprachmodell ermöglicht, sich selbst beizubringen, wann und wie externe Tools wie Taschenrechner, Suchmaschinen und Übersetzer aufgerufen werden. Anstatt Werkzeugaufrufe durch Menschen zu kennzeichnen, generiert und filtert das Modell seine eigenen Trainingsbeispiele und optimiert dann diejenigen, die tatsächlich hilfreich sind.
Was zeichnet den Ansatz von Toolformer beim Erlernen des Werkzeuggebrauchs aus?
Toolformer ist selbstüberwacht: Das Modell schlägt mögliche API-Aufrufe vor, führt sie aus und behält nur die hilfreichen, ohne menschliche Anmerkungen zur korrekten Verwendung.
Nach welchem Kriterium entscheidet Toolformer, ob ein möglicher API-Aufruf beibehalten wird?
Ein Aufruf wird nur dann beibehalten, wenn das Einfügen seines Ergebnisses die Verwirrung/den Verlust des Modells bezüglich des bevorstehenden realen Texts über einen Schwellenwert hinaus senkt, was darauf hinweist, dass er wirklich nützlich war.
Welchen Werkzeugsatz hat der ursprüngliche Toolformer erlernt?
Toolformer wurde darauf trainiert, fünf APIs aufzurufen: einen Taschenrechner, ein Frage-Antwort-System, eine Suchmaschine, einen maschinellen Übersetzer und einen Kalender.
Wie werden Werkzeugaufrufe im Toolformer-Prozess im Text dargestellt?
Kandidatenaufrufe und ihre zurückgegebenen Ergebnisse werden mithilfe spezieller Token inline in den Text eingefügt, sodass das Modell Platzierung und Argumente gemeinsam lernt.
Welche zugrunde liegende Schwäche großer Sprachmodelle hat Toolformer motiviert?
Trotz guter Sprachkenntnisse haben LLMs Schwierigkeiten mit exakter Arithmetik, aktuellen Fakten und der präzisen Informationsbeschaffung, die externe Tools liefern können.
Lerne weiter
Verwandte Leitfäden
Weitere Leitfäden zu diesem Thema ausgewählt