LegközelebbKövetkező útmutató
Reprezentációs és mintavételi torzítás az adatbázisokban
Műszaki
Műszaki ÚTMUTATÓ
Az expozíciós torzítás az a rés, amely akkor jelenik meg, amikor a csak tökéletes előtagokra oktatott modellnek a következtetés során saját tökéletlen kimeneteit kell feltételhez kötnie.
Hallgassa meg ezt az útmutatótAI-narrált · ~2 min
Scheduled sampling is a curriculum that gradually closes that gap.
A tanárkényszerrel kiképzett modellek mindig csak az alapigazság jelzőket látják kontextusként, de generációs időkben saját előrejelzéseikre adnak visszajelzést. Amikor egy korai hiba olyan állapotba hozza a modellt, amellyel soha nem találkozott az edzés során, a hibák hógolyókat okozhatnak, ezt a hibamódot expozíciós torzításnak nevezik. A Bengio és munkatársai által 2015-ben bevezetett ütemezett mintavétel ezt úgy kezeli, hogy a képzés során minden dekódolási lépésnél feldob egy érmét: bizonyos valószínűséggel a valódi tokent (tanári kényszer), egyébként pedig a modell saját mintavételezett előrejelzését táplálja. Az alapigazság használatának valószínűsége egynél kezdődik, és az ütemterv (lineáris, exponenciális vagy inverz szigmoid) képzése során csökken, így a modell fokozatosan ki van téve saját kimeneteinek, és megtanulja kiheverni a hibáit.
Képaláírási modell betanítása ütemezett mintavétellel, hogy megtanulja kecsesen folytatni egy tökéletlen előrejelzett szó után
A tanár kényszerítő valószínűségének csökkentése inverz szigmoid ütemezéssel neurális gépi fordító rendszerben
Egy inkoherens hurkokba sodródó chatbot diagnosztizálása a puszta tanári kényszerből eredő expozíciós torzítás tüneteként
A teljes tanári kényszerrel kiképzett összegző BLEU-pontszámainak összehasonlítása az ütemezett mintavétellel kiképzett összesítővel
A nagy Transformer nyelvi modellek esetében az expozíciós torzítás gyakorlati hatása vita tárgyát képezi, mivel a hatalmas adatok és léptékek tompítják azt, és az olyan módszerek, mint az RLHF, közvetlenül alakítják át a generációs viselkedést. Ennek ellenére az ütemezett mintavétel és annak leszármazottai továbbra is relevánsak a kisebb modellek, a strukturált generálás és a szigorú pontossági követelményeket támasztó feladatok esetében. A jövőbeni munka ötvözi a tanterv bemutatását, a megerősítés stílusú sorozatcélokat és a minimális kockázatú képzést, hogy összehangolja a modellek képzését a tényleges dekódolási módszerekkel.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
Az expozíciós torzítás az a rés, amely akkor jelenik meg, amikor a csak tökéletes előtagokra oktatott modellnek a következtetés során saját tökéletlen kimeneteit kell feltételhez kötnie. Az ütemezett mintavétel egy olyan tanterv, amely fokozatosan megszünteti ezt a hiányt.
Az ütemezett mintavétel sztochasztikusan keveri az alapigazságot és a modell által generált tokeneket dekódoló bemenetként, amelyeket egy csökkenő valószínűség vezérel.
Az ütemterv a teljes tanári kényszer közelében kezdődik, és csökken, így a modell egyre inkább ki van téve saját előrejelzéseinek, ahogy javul.
Az ütemezett mintavételezést Samy Bengio és munkatársai javasolták 2015-ben a szekvencia előrejelzésére visszatérő hálózatokkal.
Az eredeti munka lineáris, exponenciális és inverz szigmoid csillapítási ütemtervet javasolt a talaj-igazság mintavételi valószínűségének csökkentésére.
Scheduled sampling sometimes feeds the model’s own sampled prediction instead of the gold previous token.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Reprezentációs és mintavételi torzítás az adatbázisokban
Műszaki