Als nächstesNächster Leitfaden
Negative Abtastung und Kontrastschätzung des Rauschens
Technisch
Technischer Leitfaden
Geplante Probenahme und Expositionsverzerrung
Die Belichtungsverzerrung ist die Lücke, die entsteht, wenn ein Modell, das nur auf perfekte Präfixe trainiert wurde, bei der Inferenz seine eigenen unvollständigen Ausgaben konditionieren muss.
Auf dieser Seite2 Minuten gelesen
Übersicht
Scheduled sampling is a curriculum that gradually closes that gap.
Tiefer Einblick
Modelle, die mit der Erzwingung durch Lehrer trainiert wurden, sehen immer nur Grundwahrheits-Tokens als Kontext, aber bei der Generierung geben sie ihre eigenen Vorhersagen zurück. Wenn ein früher Fehler das Modell in einen Zustand versetzt, in dem es während des Trainings noch nie vorgefunden hat, kann es zu Fehlern kommen, die als „Exposition Bias“ bezeichnet werden. Das von Bengio und Kollegen im Jahr 2015 eingeführte geplante Sampling behebt dieses Problem, indem bei jedem Dekodierungsschritt während des Trainings eine Münze geworfen wird: Mit einer gewissen Wahrscheinlichkeit speist es den wahren Token (Teacher-Forcing) und andernfalls speist es die eigene abgetastete Vorhersage des Modells. Die Wahrscheinlichkeit der Verwendung der Grundwahrheit beginnt bei etwa eins und nimmt im Laufe des Trainings nach einem Zeitplan (linear, exponentiell oder invers-sigmoid) ab, sodass das Modell nach und nach seinen eigenen Ausgaben ausgesetzt ist und lernt, sich von seinen Fehlern zu erholen.
Strategische Auswirkungen
Kosten und Budget
Architekturentscheidungen beeinflussen über Jahre hinweg die Leistung und die Betriebskosten.
Klarere Entscheidungen
Technische Schulungen helfen Teams dabei, den richtigen Stack auszuwählen, nicht nur den neuesten.
Qualitätskontrolle
Bessere technische Entscheidungen reduzieren Zuverlässigkeitsvorfälle in der Produktion.
Die Zukunft der geplanten Probenahme und der Expositionsverzerrung
Bei großen Transformer-Sprachmodellen werden die praktischen Auswirkungen des Expositionsbias diskutiert, da große Datenmengen und Skalierung ihn dämpfen und Methoden wie RLHF das Generierungsverhalten direkt verändern. Dennoch bleiben die geplante Stichprobenentnahme und ihre Nachkommen für kleinere Modelle, strukturierte Generierung und Aufgaben mit strengen Genauigkeitsanforderungen relevant. Zukünftige Arbeiten kombinieren Lehrplanpräsenz, Sequenzziele im Verstärkungsstil und Training mit minimalem Risiko, um die Art und Weise, wie Modelle trainiert werden, an die Art und Weise anzupassen, wie sie tatsächlich dekodiert werden.
Reale Umsetzung
Trainieren Sie ein Bildunterschriftsmodell mit geplanter Stichprobe, damit es lernt, nach einem unvollständig vorhergesagten Wort elegant fortzufahren
Verfall der Lehrer-Zwangs-Wahrscheinlichkeit mit einem inversen Sigmoid-Zeitplan in einem neuronalen maschinellen Übersetzungssystem
Diagnose eines Chatbots, der in inkohärenten Schleifen abdriftet, als Symptom einer Expositionsverzerrung durch reinen Lehrerzwang
Vergleich der BLEU-Ergebnisse eines Zusammenfassers, der mit vollständiger Lehreranforderung trainiert wurde, mit einem, der mit geplanter Stichprobenziehung trainiert wurde
Risiken und Leitplanken
Die Optimierung eines Benchmarks kann umfassendere Systemschwächen verbergen.
Infrastruktur- und Wartungskosten werden oft unterschätzt.
Sicherheits- und Beobachtbarkeitslücken können größer werden, wenn die Systeme komplexer werden.
Implementierungs-Roadmap
Definieren Sie vor der Implementierung Latenz-, Qualitäts- und Kostenziele.
Benchmark unter realistischen Last- und Datenbedingungen.
Instrumentenüberwachung auf Fehler, Drift und Benutzereinflüsse.
Bereiten Sie vor der Skalierung Rollback- und Incident-Response-Pfade vor.
Entdecken Sie weiter
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Scheduled Sampling and Exposure Bias quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Häufig gestellte Fragen
What is Scheduled Sampling and Exposure Bias?
Die Belichtungsverzerrung ist die Lücke, die entsteht, wenn ein Modell, das nur auf perfekte Präfixe trainiert wurde, bei der Inferenz seine eigenen unvollständigen Ausgaben konditionieren muss. Geplante Probenahmen sind ein Lehrplan, der diese Lücke schrittweise schließt.
Was bewirkt die geplante Probenahme während des Trainings?
Bei der geplanten Stichprobe werden stochastisch Ground-Truth- und modellgenerierte Token als Decoder-Eingaben gemischt, gesteuert durch eine abnehmende Wahrscheinlichkeit.
Wie verändert sich die Wahrscheinlichkeit der Verwendung des Ground-Truth-Tokens im Laufe des Trainings bei der geplanten Probenahme?
Der Stundenplan beginnt bei nahezu voller Lehrervorgabe und lässt dann nach, sodass das Modell mit zunehmender Verbesserung zunehmend seinen eigenen Vorhersagen ausgesetzt ist.
Wer hat die planmäßige Probenahme eingeführt und wann ungefähr?
Geplante Probenahme wurde 2015 von Samy Bengio und Kollegen für die Sequenzvorhersage mit wiederkehrenden Netzwerken vorgeschlagen.
Welche Stundenplanform wird üblicherweise für die Verringerung der Wahrscheinlichkeit, dass Lehrer gezwungen werden, genannt?
In der ursprünglichen Arbeit wurden lineare, exponentielle und invers-sigmoidförmige Zerfallspläne vorgeschlagen, um die Wahrscheinlichkeit der Ground-Truth-Stichprobe zu verringern.
Lerne weiter
Verwandte Leitfäden
Weitere Leitfäden zu diesem Thema ausgewählt