Műszaki ÚTMUTATÓ

Ütemezett mintavétel és expozíciós torzítás

Az expozíciós torzítás az a rés, amely akkor jelenik meg, amikor a csak tökéletes előtagokra oktatott modellnek a következtetés során saját tökéletlen kimeneteit kell feltételhez kötnie.

Hallgassa meg ezt az útmutatótAI-narrált · ~2 min

Ezen az oldalon2 perc olvasás
  1. Áttekintés
  2. Mély merülés
  3. Valós megvalósítás
  4. Az ütemezett mintavétel és az expozíciós torzítás jövője
  5. A gyakorlatba ültetés
  6. Folytassa a felfedezést
  7. Gyakran ismételt kérdések

Áttekintés

Scheduled sampling is a curriculum that gradually closes that gap.

Mély merülés

A tanárkényszerrel kiképzett modellek mindig csak az alapigazság jelzőket látják kontextusként, de generációs időkben saját előrejelzéseikre adnak visszajelzést. Amikor egy korai hiba olyan állapotba hozza a modellt, amellyel soha nem találkozott az edzés során, a hibák hógolyókat okozhatnak, ezt a hibamódot expozíciós torzításnak nevezik. A Bengio és munkatársai által 2015-ben bevezetett ütemezett mintavétel ezt úgy kezeli, hogy a képzés során minden dekódolási lépésnél feldob egy érmét: bizonyos valószínűséggel a valódi tokent (tanári kényszer), egyébként pedig a modell saját mintavételezett előrejelzését táplálja. Az alapigazság használatának valószínűsége egynél kezdődik, és az ütemterv (lineáris, exponenciális vagy inverz szigmoid) képzése során csökken, így a modell fokozatosan ki van téve saját kimeneteinek, és megtanulja kiheverni a hibáit.

Valós megvalósítás

Képaláírási modell betanítása ütemezett mintavétellel, hogy megtanulja kecsesen folytatni egy tökéletlen előrejelzett szó után

A tanár kényszerítő valószínűségének csökkentése inverz szigmoid ütemezéssel neurális gépi fordító rendszerben

Egy inkoherens hurkokba sodródó chatbot diagnosztizálása a puszta tanári kényszerből eredő expozíciós torzítás tüneteként

A teljes tanári kényszerrel kiképzett összegző BLEU-pontszámainak összehasonlítása az ütemezett mintavétellel kiképzett összesítővel

Az ütemezett mintavétel és az expozíciós torzítás jövője

A nagy Transformer nyelvi modellek esetében az expozíciós torzítás gyakorlati hatása vita tárgyát képezi, mivel a hatalmas adatok és léptékek tompítják azt, és az olyan módszerek, mint az RLHF, közvetlenül alakítják át a generációs viselkedést. Ennek ellenére az ütemezett mintavétel és annak leszármazottai továbbra is relevánsak a kisebb modellek, a strukturált generálás és a szigorú pontossági követelményeket támasztó feladatok esetében. A jövőbeni munka ötvözi a tanterv bemutatását, a megerősítés stílusú sorozatcélokat és a minimális kockázatú képzést, hogy összehangolja a modellek képzését a tényleges dekódolási módszerekkel.

A gyakorlatba ültetés

Miért számít

  • Költség és költségvetés. Az építészeti döntések évekig növelik a teljesítményt és a működési költségeket.
  • Tisztább döntések. A technikai oktatás segít a csapatoknak a megfelelő verem kiválasztásában, nem csak a legújabb készletben.
  • Minőségellenőrzés. A jobb mérnöki döntések csökkentik a termelés megbízhatósági incidenseit.

Vigyázz

  • Egy benchmark optimalizálása elrejtheti a rendszer általános hiányosságait.
  • Az infrastrukturális és karbantartási költségeket gyakran alábecsülik.
  • A biztonsági és megfigyelhetőségi hiányosságok a rendszerek bonyolultabbá válásával nőhetnek.

Következő lépések

  1. Határozza meg a késleltetési, minőségi és költségcélokat a megvalósítás előtt.
  2. Benchmark reális terhelési és adatviszonyok mellett.
  3. Műszerfigyelés a hibák, az eltolódás és a felhasználói hatások szempontjából.
  4. A méretezés előtt készítse elő a visszagörgetési és az incidensre adott válaszútvonalakat.

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Take the Scheduled Sampling and Exposure Bias quiz

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

What is Scheduled Sampling and Exposure Bias?

Az expozíciós torzítás az a rés, amely akkor jelenik meg, amikor a csak tökéletes előtagokra oktatott modellnek a következtetés során saját tökéletlen kimeneteit kell feltételhez kötnie. Az ütemezett mintavétel egy olyan tanterv, amely fokozatosan megszünteti ezt a hiányt.

Mit csinál az ütemezett mintavétel a képzés során?

Az ütemezett mintavétel sztochasztikusan keveri az alapigazságot és a modell által generált tokeneket dekódoló bemenetként, amelyeket egy csökkenő valószínűség vezérel.

Hogyan változik az alap-igazság token használatának valószínűsége az ütemezett mintavétel során végzett képzés során?

Az ütemterv a teljes tanári kényszer közelében kezdődik, és csökken, így a modell egyre inkább ki van téve saját előrejelzéseinek, ahogy javul.

Ki vezette be az ütemezett mintavételt, és nagyjából mikor?

Az ütemezett mintavételezést Samy Bengio és munkatársai javasolták 2015-ben a szekvencia előrejelzésére visszatérő hálózatokkal.

Melyik órarendi alakzatot szokták idézni a tanárkényszer valószínűségének lecsökkentésére?

Az eredeti munka lineáris, exponenciális és inverz szigmoid csillapítási ütemtervet javasolt a talaj-igazság mintavételi valószínűségének csökkentésére.

At a decoding step where scheduled sampling chooses the model-output branch, what is fed as the next context token?

Scheduled sampling sometimes feeds the model’s own sampled prediction instead of the gold previous token.