LegközelebbKövetkező útmutató
Neurális hálózatok méretezési törvényei
Alapok
Nyelvi AI ÚTMUTATÓ
Chinchilla studied how to allocate a training-compute budget between parameters and training tokens.
Hallgassa meg ezt az útmutatótAI-narrált · ~2 min
Its fitted results favor scaling both together in the evaluated regime; that objective is different from minimizing total deployment cost or guaranteeing one token ratio for every dataset.
The 2022 study fitted loss behavior across model and data budgets and estimated training-compute-optimal parameter and token allocations. The finding that both quantities should grow in similar proportions means comparable scaling exponents, not equal numerical counts. Chinchilla used about seventy billion parameters and 1.4 trillion training tokens, giving a twenty-token-per-parameter example. It was compared with the much larger Gopher under a comparable training-compute budget. The study argued that many evaluated contemporary large models were undertrained relative to the estimated optimum. These relationships are fitted results that depend on the data and setup; a fixed ratio is not a universal design law. LLaMA's paper discusses training smaller models longer as a way to consider inference efficiency, a different objective from training compute alone.
Comparing the 70-billion-parameter Chinchilla experiment with the 280-billion-parameter Gopher baseline.
Using fitted training-budget relationships as a starting point rather than a universal ratio rule.
Distinguishing a from-scratch training optimum from a smaller model chosen for repeated inference.
Evaluating whether parameters or data provide more value under a defined compute and quality objective.
Scaling research continues to examine data quality, repeated data, model architecture, and the cost of training versus serving. State the objective and evaluation conditions before calling an allocation optimal. A useful empirical trend is different from a guarantee that one parameter-token recipe dominates every workload.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
Chinchilla studied how to allocate a training-compute budget between parameters and training tokens. Its fitted results favor scaling both together in the evaluated regime; that objective is different from minimizing total deployment cost or guaranteeing one token ratio for every dataset.
Similar proportional growth is not a literal one-token-per-parameter rule.
1.4 trillion divided by seventy billion equals twenty; this example is not a universal optimum for every setup.
A 70B-s paraméterű Chinchilla ugyanazzal a számítással verte a DeepMind saját 280B-s Gopher-jét, mert sokkal több adatra edzett.
A korszak számos nagy modellje alulképzett volt, ami azt jelenti, hogy jobban teljesítettek volna, ha sokkal több adatot kaptak volna a paramétereikhez.
A képzési számítás (FLOP) megközelítőleg arányos a paraméterek számának és a képzési tokenek számának szorzatával.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Neurális hálózatok méretezési törvényei
Alapok