Áttekintés
A Chinchilla egy 2022-es DeepMind megállapítása, hogy a legtöbb nagy nyelvi modell erősen alulképzett volt: egy fix számítási költségvetéshez a paramétereket és az adatokat nagyjából egyenlő arányban kell méretezni, nem csak egy nagyobb modellt építeni. Átalakította azt, ahogy az iparág egyensúlyba hozza a modellméretet a képzési adatokkal.
A Chinchilla Compute-Optimal Training az alapvető mesterséges intelligencia eszközkészletben található. Ha megérti, más AI témák könnyebben értékelhetők és összehasonlíthatók.
Mély merülés
A DeepMind Chinchilla papírja újra megvizsgálta a méretezést, és több mint 400 modellt képezett ki, hogy megtalálják az optimális számítási egyensúlyt. A fejléc ökölszabálya: a modell méretének és a képzési jelzőknek lockstep-ben kell növekedniük, paraméterenként nagyjából 20 képzési tokennek kell lennie. Ennek bizonyítására Chinchillát, egy 70 milliárd paraméterű modellt 1400 milliárd tokenre képezték ki, ugyanazt a számítást alkalmazva, mint a 280 milliárd paraméterű Gopher sokkal kevesebb tokenre. A Chinchilla annak ellenére, hogy négyszer kisebb, szinte minden benchmarkon felülmúlta a Gophert, a GPT-3-at és más óriásokat. A lecke megdöntötte a korábbi OpenAI következtetést, amely a méretet részesítette előnyben az adatokkal szemben, és azt mutatta, hogy sok zászlóshajó-modell nem hagyja el a teljesítményt, mivel túl nagyok és túlságosan adathiányosak.
Technikai betekintés
A csincsilla illeszkedési vesztesége L(N,D) = E + A·N^(-α) + B·D^(-β), α és β egyaránt közel 0,34, ami azt jelenti, hogy a paraméterek és az adatok csaknem szimmetrikusan járulnak hozzá. Ennek optimalizálása rögzített számítási kényszer mellett (transzformátorok esetén ≈ 6·N·D kiszámítása) egyenlő skálázási eredményt eredményez. Egy kisebb, adatban gazdag modellt a következtetések levonásával is olcsóbb futtatni, így előnye a telepítés során is fokozódik, nem csak a képzésben.
Chinchilla Compute-Optimal Training elsajátítása
A Chinchilla egy 2022-es DeepMind megállapítása, hogy a legtöbb nagy nyelvi modell erősen alulképzett volt: egy fix számítási költségvetéshez a paramétereket és az adatokat nagyjából egyenlő arányban kell méretezni, nem csak egy nagyobb modellt építeni. Átalakította azt, ahogy az iparág egyensúlyba hozza a modellméretet a képzési adatokkal. A Chinchilla Compute-Optimal Training az alapvető mesterséges intelligencia eszközkészletben található. Ha megérti, más AI témák könnyebben értékelhetők és összehasonlíthatók. A mélyebb megértéshez a Chinchilla Compute-Optimal Training-t működési modellként kell kezelni, nem pedig egyetlen jellemzőként: határozza meg a kívánt eredményeket, tisztázza a feltételezéseket, és válassza szét azt, amit a rendszer megbízhatóan képes elvégezni, attól, ami még szakértői megítélést igényel.
A gyakorlatban a Chinchilla Compute-Optimal Training rendszert használó erős csapatok először erős koncepcionális modelleket készítenek, majd leképezik ezeket a modelleket a valós gyártási korlátokhoz. Dokumentálják az explicit sikerkritériumokat, tesztelik a valósághű adatokat és munkafolyamatokat, és a megfigyelt hibaminták alapján iterálnak, nem pedig egyszeri benchmark győzelmek alapján. Ez az a hely, ahol az elméleti megértés tartós képességgé válik a termék, a politika és a műveletek között.
Segít elkülöníteni a világos technikai állításokat a marketing nyelvezettől. Ugyanakkor a különböző csapatok eltérően használhatják ugyanazt a kifejezést, ezért korán határozza meg a hatókört. A legrugalmasabb megközelítés a kísérleti sebesség és az irányítási fegyelem kombinálása: kísérleti kísérletek futtatása, bizonyítékok rögzítése, döntési naplók közzététele és a biztosítékok folyamatos frissítése a modell viselkedésének, a felhasználói elvárásoknak és a szabályozási követelményeknek megfelelően.
Stratégiai hatás
Segít elkülöníteni a világos technikai állításokat a marketing nyelvezettől.
Segít elkülöníteni a világos technikai állításokat a marketing nyelvezettől. A kiváló minőségű telepítéseknél ez mérhető működési szabályokká, tulajdonosi határokká és ismétlődő felülvizsgálati rituálékká alakul át, így a csapatok növelhetik a bizalmat a kétértelműség skálázása helyett.
Feltehet jobb végrehajtási kérdéseket, mielőtt pénzt vagy időt költene.
Feltehet jobb végrehajtási kérdéseket, mielőtt pénzt vagy időt költene. A kiváló minőségű telepítéseknél ez mérhető működési szabályokká, tulajdonosi határokká és ismétlődő felülvizsgálati rituálékká alakul át, így a csapatok növelhetik a bizalmat a kétértelműség skálázása helyett.
A közös tudással rendelkező csapatok jobb döntéseket hoznak a termékekkel, irányelvekkel és tanulással kapcsolatban.
A közös tudással rendelkező csapatok jobb döntéseket hoznak a termékekkel, irányelvekkel és tanulással kapcsolatban. A kiváló minőségű telepítéseknél ez mérhető működési szabályokká, tulajdonosi határokká és ismétlődő felülvizsgálati rituálékká alakul át, így a csapatok növelhetik a bizalmat a kétértelműség skálázása helyett.
Valós megvalósítás
Egy 7 milliárd paraméterű modell 2 billió tokenre történő betanítása helyett egy 30 milliárdos modellt, amely túl kevés adattal azonos költségvetés mellett.
Becslések szerint egy 10 milliárd paraméterű modell nagyjából 200 milliárd tokenre vágyik, hogy elérje a számítási szempontból optimális édes pontot.
Egy kisebb telepített modell indoklása a lekérdezésenkénti következtetési költségek csökkentése érdekében, miközben megfelel egy nagyobb rivális minőségének.
Egy meglévő modell auditálása és lezárása alulképzett volt, majd a paraméternövelés helyett hosszabb edzésterv tervezése.
Megvalósítási minták
Chinchilla Compute-Optimal Training a gyakorlatban
Egy 7 milliárd paraméterű modell 2 billió tokenre történő betanítása helyett egy 30 milliárdos modellt, amely túl kevés adattal azonos költségvetés mellett.
Egy 7 milliárd paraméteres modell 2 billió tokenre való betanítása helyett egy 30 milliárdos, túl kevés adattal azonos költségvetésű modellt választva A csapatok általában jobb eredményeket érnek el, ha előre meghatározzák a minőségi küszöbértékeket, megtartják az emberi eszkalációs utat a szélsőséges eseteknél, és nyomon követik a termelékenység növekedését és a hibaköltségeket is.
Chinchilla Compute-Optimal Training a gyakorlatban
Becslések szerint egy 10 milliárd paraméterű modell nagyjából 200 milliárd tokenre vágyik, hogy elérje a számítási szempontból optimális édes pontot.
Ha azt becsülik, hogy egy 10 milliárd paraméteres modell nagyjából 200 milliárd tokent akar elérni a számítási szempontból optimális "sweet spot"-ban. A csapatok általában jobb eredményeket érnek el, ha előre meghatározzák a minőségi küszöböket, megtartják az emberi eszkalációs útvonalat a szélső eseteknél, és nyomon követik mind a termelékenységnövekedést, mind a hibaköltségeket az idő múlásával.
Chinchilla Compute-Optimal Training a gyakorlatban
Egy kisebb telepített modell indoklása a lekérdezésenkénti következtetési költségek csökkentése érdekében, miközben megfelel egy nagyobb rivális minőségének.
Egy kisebb telepített modell indokolása a lekérdezésenkénti következtetési költségek csökkentése érdekében, miközben egy nagyobb rivális minőségéhez igazodik. A csapatok általában jobb eredményeket érnek el, ha előre meghatározzák a minőségi küszöböket, megtartják az emberi eszkalációs útvonalat a szélsőséges eseteknél, és nyomon követik a termelékenységnövekedést és a hibaköltségeket az idő múlásával.
Chinchilla Compute-Optimal Training a gyakorlatban
Egy meglévő modell auditálása és lezárása alulképzett volt, majd a paraméternövelés helyett hosszabb edzésterv tervezése.
Egy létező modell auditálása és lezárása alulképzett volt, majd a paraméterek növelése helyett hosszabb edzéstervezést terveznek. A csapatok általában jobb eredményeket érnek el, ha előre meghatározzák a minőségi küszöböket, megtartják az emberi eszkalációs útvonalat a szélső eseteknél, és nyomon követik mind a termelékenységnövekedést, mind a hibaköltségeket az idő múlásával.
Kockázatok és védőkorlátok
A különböző csapatok eltérően használhatják ugyanazt a kifejezést, ezért korán határozza meg a hatókört.
A benchmarkok erősnek tűnhetnek, miközben a valós teljesítmény egyenetlen.
Az adatminőségi és értékelési tervek figyelmen kívül hagyása gyakran törékeny eredményekhez vezet.
Végrehajtási ütemterv
Kezdje a kívánt eredmény egyszerű nyelvű meghatározásával.
Kezdje a kívánt eredmény egyszerű nyelvű meghatározásával. Minden lépést bizonyítékkapuként kell kezelni: ha a feltételek nem teljesülnek, szüneteltesse a közzétételt, zárja be a rést, és csak ezután bővítse a felhasználást.
A tesztelés előtt válasszon egy sikermutatót és egy hibafeltételt.
A tesztelés előtt válasszon egy sikermutatót és egy hibafeltételt. Minden lépést bizonyítékkapuként kell kezelni: ha a feltételek nem teljesülnek, szüneteltesse a közzétételt, zárja be a rést, és csak ezután bővítse a felhasználást.
Futtasson egy kis pilotot reprezentatív adatokkal, ne egy csiszolt demókészlettel.
Futtasson egy kis pilotot reprezentatív adatokkal, ne egy csiszolt demókészlettel. Minden lépést bizonyítékkapuként kell kezelni: ha a feltételek nem teljesülnek, szüneteltesse a közzétételt, zárja be a rést, és csak ezután bővítse a felhasználást.
Dokumentálja, hol segít a Chinchilla Compute-Optimal Training, és hol jobbak az egyszerűbb módszerek.
Dokumentálja, hol segít a Chinchilla Compute-Optimal Training, és hol jobbak az egyszerűbb módszerek. Minden lépést bizonyítékkapuként kell kezelni: ha a feltételek nem teljesülnek, szüneteltesse a közzétételt, zárja be a rést, és csak ezután bővítse a felhasználást.