Alapok ÚTMUTATÓ

Chinchilla Compute-Optimal Training

A Chinchilla egy 2022-es DeepMind megállapítása, hogy a legtöbb nagy nyelvi modell erősen alulképzett volt: egy fix számítási költségvetéshez a paramétereket és az adatokat nagyjából egyenlő arányban kell méretezni, nem csak egy nagyobb modellt építeni.

Áttekintés

A Chinchilla egy 2022-es DeepMind megállapítása, hogy a legtöbb nagy nyelvi modell erősen alulképzett volt: egy fix számítási költségvetéshez a paramétereket és az adatokat nagyjából egyenlő arányban kell méretezni, nem csak egy nagyobb modellt építeni. Átalakította azt, ahogy az iparág egyensúlyba hozza a modellméretet a képzési adatokkal.

A Chinchilla Compute-Optimal Training az alapvető mesterséges intelligencia eszközkészletben található. Ha megérti, más AI témák könnyebben értékelhetők és összehasonlíthatók.

Mély merülés

A DeepMind Chinchilla papírja újra megvizsgálta a méretezést, és több mint 400 modellt képezett ki, hogy megtalálják az optimális számítási egyensúlyt. A fejléc ökölszabálya: a modell méretének és a képzési jelzőknek lockstep-ben kell növekedniük, paraméterenként nagyjából 20 képzési tokennek kell lennie. Ennek bizonyítására Chinchillát, egy 70 milliárd paraméterű modellt 1400 milliárd tokenre képezték ki, ugyanazt a számítást alkalmazva, mint a 280 milliárd paraméterű Gopher sokkal kevesebb tokenre. A Chinchilla annak ellenére, hogy négyszer kisebb, szinte minden benchmarkon felülmúlta a Gophert, a GPT-3-at és más óriásokat. A lecke megdöntötte a korábbi OpenAI következtetést, amely a méretet részesítette előnyben az adatokkal szemben, és azt mutatta, hogy sok zászlóshajó-modell nem hagyja el a teljesítményt, mivel túl nagyok és túlságosan adathiányosak.

Technikai betekintés

A csincsilla illeszkedési vesztesége L(N,D) = E + A·N^(-α) + B·D^(-β), α és β egyaránt közel 0,34, ami azt jelenti, hogy a paraméterek és az adatok csaknem szimmetrikusan járulnak hozzá. Ennek optimalizálása rögzített számítási kényszer mellett (transzformátorok esetén ≈ 6·N·D kiszámítása) egyenlő skálázási eredményt eredményez. Egy kisebb, adatban gazdag modellt a következtetések levonásával is olcsóbb futtatni, így előnye a telepítés során is fokozódik, nem csak a képzésben.

Chinchilla Compute-Optimal Training elsajátítása

A Chinchilla egy 2022-es DeepMind megállapítása, hogy a legtöbb nagy nyelvi modell erősen alulképzett volt: egy fix számítási költségvetéshez a paramétereket és az adatokat nagyjából egyenlő arányban kell méretezni, nem csak egy nagyobb modellt építeni. Átalakította azt, ahogy az iparág egyensúlyba hozza a modellméretet a képzési adatokkal. A Chinchilla Compute-Optimal Training az alapvető mesterséges intelligencia eszközkészletben található. Ha megérti, más AI témák könnyebben értékelhetők és összehasonlíthatók. A mélyebb megértéshez a Chinchilla Compute-Optimal Training-t működési modellként kell kezelni, nem pedig egyetlen jellemzőként: határozza meg a kívánt eredményeket, tisztázza a feltételezéseket, és válassza szét azt, amit a rendszer megbízhatóan képes elvégezni, attól, ami még szakértői megítélést igényel.

A gyakorlatban a Chinchilla Compute-Optimal Training rendszert használó erős csapatok először erős koncepcionális modelleket készítenek, majd leképezik ezeket a modelleket a valós gyártási korlátokhoz. Dokumentálják az explicit sikerkritériumokat, tesztelik a valósághű adatokat és munkafolyamatokat, és a megfigyelt hibaminták alapján iterálnak, nem pedig egyszeri benchmark győzelmek alapján. Ez az a hely, ahol az elméleti megértés tartós képességgé válik a termék, a politika és a műveletek között.

Segít elkülöníteni a világos technikai állításokat a marketing nyelvezettől. Ugyanakkor a különböző csapatok eltérően használhatják ugyanazt a kifejezést, ezért korán határozza meg a hatókört. A legrugalmasabb megközelítés a kísérleti sebesség és az irányítási fegyelem kombinálása: kísérleti kísérletek futtatása, bizonyítékok rögzítése, döntési naplók közzététele és a biztosítékok folyamatos frissítése a modell viselkedésének, a felhasználói elvárásoknak és a szabályozási követelményeknek megfelelően.

Stratégiai hatás

Segít elkülöníteni a világos technikai állításokat a marketing nyelvezettől.

Segít elkülöníteni a világos technikai állításokat a marketing nyelvezettől. A kiváló minőségű telepítéseknél ez mérhető működési szabályokká, tulajdonosi határokká és ismétlődő felülvizsgálati rituálékká alakul át, így a csapatok növelhetik a bizalmat a kétértelműség skálázása helyett.

Feltehet jobb végrehajtási kérdéseket, mielőtt pénzt vagy időt költene.

Feltehet jobb végrehajtási kérdéseket, mielőtt pénzt vagy időt költene. A kiváló minőségű telepítéseknél ez mérhető működési szabályokká, tulajdonosi határokká és ismétlődő felülvizsgálati rituálékká alakul át, így a csapatok növelhetik a bizalmat a kétértelműség skálázása helyett.

A közös tudással rendelkező csapatok jobb döntéseket hoznak a termékekkel, irányelvekkel és tanulással kapcsolatban.

A közös tudással rendelkező csapatok jobb döntéseket hoznak a termékekkel, irányelvekkel és tanulással kapcsolatban. A kiváló minőségű telepítéseknél ez mérhető működési szabályokká, tulajdonosi határokká és ismétlődő felülvizsgálati rituálékká alakul át, így a csapatok növelhetik a bizalmat a kétértelműség skálázása helyett.

A Chinchilla Compute-Optimal Training jövője

A modern modellek, mint a Llama 3, szándékosan túllépik a Chinchilla 20 token/paraméter arányát, kis modelleket trillió tokenekre tanítva, hogy olcsó következtetéseket lehessen levonni, elfogadva a szuboptimális képzési számításokat. Ahogy egyre fogy a jó adat, úgy nő az érdeklődés az ismétlődő korszakok, a szintetikus adatok és a minőségi szűrés iránt. A csincsilla továbbra is a referenciapont, de az optimum egyre inkább az élettartamra vonatkozó következtetési költségektől függ, nem csak az egyszeri képzési költségvetéstől.

Valós megvalósítás

Egy 7 milliárd paraméterű modell 2 billió tokenre történő betanítása helyett egy 30 milliárdos modellt, amely túl kevés adattal azonos költségvetés mellett.

Becslések szerint egy 10 milliárd paraméterű modell nagyjából 200 milliárd tokenre vágyik, hogy elérje a számítási szempontból optimális édes pontot.

Egy kisebb telepített modell indoklása a lekérdezésenkénti következtetési költségek csökkentése érdekében, miközben megfelel egy nagyobb rivális minőségének.

Egy meglévő modell auditálása és lezárása alulképzett volt, majd a paraméternövelés helyett hosszabb edzésterv tervezése.

Megvalósítási minták

Chinchilla Compute-Optimal Training a gyakorlatban

Egy 7 milliárd paraméterű modell 2 billió tokenre történő betanítása helyett egy 30 milliárdos modellt, amely túl kevés adattal azonos költségvetés mellett.

Egy 7 milliárd paraméteres modell 2 billió tokenre való betanítása helyett egy 30 milliárdos, túl kevés adattal azonos költségvetésű modellt választva A csapatok általában jobb eredményeket érnek el, ha előre meghatározzák a minőségi küszöbértékeket, megtartják az emberi eszkalációs utat a szélsőséges eseteknél, és nyomon követik a termelékenység növekedését és a hibaköltségeket is.

Chinchilla Compute-Optimal Training a gyakorlatban

Becslések szerint egy 10 milliárd paraméterű modell nagyjából 200 milliárd tokenre vágyik, hogy elérje a számítási szempontból optimális édes pontot.

Ha azt becsülik, hogy egy 10 milliárd paraméteres modell nagyjából 200 milliárd tokent akar elérni a számítási szempontból optimális "sweet spot"-ban. A csapatok általában jobb eredményeket érnek el, ha előre meghatározzák a minőségi küszöböket, megtartják az emberi eszkalációs útvonalat a szélső eseteknél, és nyomon követik mind a termelékenységnövekedést, mind a hibaköltségeket az idő múlásával.

Chinchilla Compute-Optimal Training a gyakorlatban

Egy kisebb telepített modell indoklása a lekérdezésenkénti következtetési költségek csökkentése érdekében, miközben megfelel egy nagyobb rivális minőségének.

Egy kisebb telepített modell indokolása a lekérdezésenkénti következtetési költségek csökkentése érdekében, miközben egy nagyobb rivális minőségéhez igazodik. A csapatok általában jobb eredményeket érnek el, ha előre meghatározzák a minőségi küszöböket, megtartják az emberi eszkalációs útvonalat a szélsőséges eseteknél, és nyomon követik a termelékenységnövekedést és a hibaköltségeket az idő múlásával.

Chinchilla Compute-Optimal Training a gyakorlatban

Egy meglévő modell auditálása és lezárása alulképzett volt, majd a paraméternövelés helyett hosszabb edzésterv tervezése.

Egy létező modell auditálása és lezárása alulképzett volt, majd a paraméterek növelése helyett hosszabb edzéstervezést terveznek. A csapatok általában jobb eredményeket érnek el, ha előre meghatározzák a minőségi küszöböket, megtartják az emberi eszkalációs útvonalat a szélső eseteknél, és nyomon követik mind a termelékenységnövekedést, mind a hibaköltségeket az idő múlásával.

Kockázatok és védőkorlátok

!

A különböző csapatok eltérően használhatják ugyanazt a kifejezést, ezért korán határozza meg a hatókört.

!

A benchmarkok erősnek tűnhetnek, miközben a valós teljesítmény egyenetlen.

!

Az adatminőségi és értékelési tervek figyelmen kívül hagyása gyakran törékeny eredményekhez vezet.

Végrehajtási ütemterv

1

Kezdje a kívánt eredmény egyszerű nyelvű meghatározásával.

Kezdje a kívánt eredmény egyszerű nyelvű meghatározásával. Minden lépést bizonyítékkapuként kell kezelni: ha a feltételek nem teljesülnek, szüneteltesse a közzétételt, zárja be a rést, és csak ezután bővítse a felhasználást.

2

A tesztelés előtt válasszon egy sikermutatót és egy hibafeltételt.

A tesztelés előtt válasszon egy sikermutatót és egy hibafeltételt. Minden lépést bizonyítékkapuként kell kezelni: ha a feltételek nem teljesülnek, szüneteltesse a közzétételt, zárja be a rést, és csak ezután bővítse a felhasználást.

3

Futtasson egy kis pilotot reprezentatív adatokkal, ne egy csiszolt demókészlettel.

Futtasson egy kis pilotot reprezentatív adatokkal, ne egy csiszolt demókészlettel. Minden lépést bizonyítékkapuként kell kezelni: ha a feltételek nem teljesülnek, szüneteltesse a közzétételt, zárja be a rést, és csak ezután bővítse a felhasználást.

4

Dokumentálja, hol segít a Chinchilla Compute-Optimal Training, és hol jobbak az egyszerűbb módszerek.

Dokumentálja, hol segít a Chinchilla Compute-Optimal Training, és hol jobbak az egyszerűbb módszerek. Minden lépést bizonyítékkapuként kell kezelni: ha a feltételek nem teljesülnek, szüneteltesse a közzétételt, zárja be a rést, és csak ezután bővítse a felhasználást.

Folytassa a felfedezést