VolgendeVolgende gids
Representatie en bemonsteringsbias in datasets
Technisch
Technische GIDS
Blootstellingsbias is de kloof die ontstaat wanneer een model dat alleen op perfecte voorvoegsels is getraind, bij gevolgtrekking moet conditioneren op zijn eigen onvolmaakte resultaten.
Luister naar deze gidsAI-verteld · ~2 min
Scheduled sampling is a curriculum that gradually closes that gap.
Modellen die zijn getraind met het forceren van leraren zien grondwaarheidsfiches alleen als context, maar tijdens de generatie koppelen ze hun eigen voorspellingen terug. Wanneer een vroege fout het model in een toestand brengt die het tijdens de training nog nooit is tegengekomen, kunnen fouten een sneeuwbaleffect krijgen, een foutmodus die exposure bias wordt genoemd. Geplande bemonstering, geïntroduceerd door Bengio en collega's in 2015, pakt dit aan door bij elke decodeerstap tijdens de training een muntje op te gooien: met enige waarschijnlijkheid voedt het het ware token (leraar forceren) en anders voedt het de eigen bemonsterde voorspelling van het model. De waarschijnlijkheid van het gebruik van de grondwaarheid begint bij één en neemt af tijdens training via een schema (lineair, exponentieel of invers-sigmoïde), zodat het model geleidelijk wordt blootgesteld aan zijn eigen resultaten en leert te herstellen van zijn fouten.
Een model voor ondertiteling van afbeeldingen trainen met geplande steekproeven, zodat het leert netjes door te gaan na een onvolmaakt voorspeld woord
Het verval van de waarschijnlijkheid van het forceren van leraren met een omgekeerd sigmoïde schema in een neuraal machinevertaalsysteem
Diagnose van een chatbot die in onsamenhangende lussen terechtkomt als een symptoom van blootstellingsbias door pure lerarendwang
Vergelijking van BLEU-scores van een samenvatter die is getraind met volledige lerarenforcering versus een samenvatting die is getraind met geplande steekproeven
Voor grote Transformer-taalmodellen staat de praktische impact van blootstellingsbias ter discussie, omdat grote hoeveelheden data en schaal dit dempen, en methoden zoals RLHF het generatiegedrag rechtstreeks hervormen. Toch blijven geplande bemonstering en de nakomelingen ervan relevant voor kleinere modellen, gestructureerde generatie en taken met strikte nauwkeurigheidsbehoeften. Toekomstig werk combineert blootstelling aan het curriculum, reeksdoelstellingen in versterkingsstijl en training met minimaal risico om de manier waarop modellen worden getraind af te stemmen op de manier waarop ze daadwerkelijk worden gedecodeerd.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
Blootstellingsbias is de kloof die ontstaat wanneer een model dat alleen op perfecte voorvoegsels is getraind, bij gevolgtrekking moet conditioneren op zijn eigen onvolmaakte resultaten. Geplande bemonstering is een curriculum dat deze kloof geleidelijk overbrugt.
Geplande bemonstering combineert op stochastische wijze grondwaarheid en modelgegenereerde tokens als decoderinvoer, bestuurd door een afnemende waarschijnlijkheid.
Het schema begint bijna met volledige lerarenforcering en vervalt, zodat het model steeds meer wordt blootgesteld aan zijn eigen voorspellingen naarmate het verbetert.
Geplande bemonstering werd in 2015 voorgesteld door Samy Bengio en collega's voor sequentievoorspelling met terugkerende netwerken.
Het oorspronkelijke werk stelde lineaire, exponentiële en inverse-sigmoïde vervalschema's voor om de waarschijnlijkheid van het nemen van grondwaarheden te verminderen.
Scheduled sampling sometimes feeds the model’s own sampled prediction instead of the gold previous token.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
Representatie en bemonsteringsbias in datasets
Technisch