Test legat de ghid · Mediu Nivel
Test-Time Compute Scaling Test
Review inference-time compute, candidate search, adaptive allocation and the cost-latency tradeoffs measured in test-time studies.
Întrebare 1 de 8
La ce se referă „calcularea timpului de testare”?
Previzualizează fiecare întrebare8 întrebări
Răspunsurile și explicațiile apar pe măsură ce susțineți testul.
- La ce se referă „calcularea timpului de testare”?
- Calcularea a petrecut antrenarea modelului pe date
- Timpul necesar pentru a descărca un model
- Calculul cheltuit atunci când modelul răspunde la o interogare la inferență
- Electricitatea folosită pentru răcirea centrelor de date
- In test-time scaling studies, what can extra inference compute be used for?
- Changing the model’s training data during the request
- Increasing the number of model parameters automatically
- Guaranteeing correctness without evaluation
- Searching or revising candidate solutions and checking their quality
- Care este compromisul de bază al scalării de calcul în timpul testării?
- Precizie mai mare în schimbul unei latențe și costuri mai mari
- Mai puțină memorie, dar antrenament mai lent
- Mai multe date, dar modele mai mici
- Grafică mai bună pentru rezoluție mai mică
- Ce este eșantionarea „cel mai bun din N”?
- Antrenament pe cele mai mari N seturi de date
- Generarea de N răspunsuri candidat și selectarea celui mai bun
- Folosind numai primele N cuvinte ale unui prompt
- Rularea modelului pe N computere diferite pentru viteză
- De ce calculul timpului de testare este considerat o nouă „axă de scalare”?
- Înlocuiește nevoia oricărui antrenament
- Functioneaza doar pe modele mici
- Îmbunătățește performanța prin adăugarea calculului prin inferență, mai degrabă decât prin creșterea dimensiunii modelului
- Reduce numărul de utilizatori pe care un model poate servi
- Ce rezultat surprinzător permite calcularea timpului de testare?
- Modelele pot rula fără GPU
- Datele de antrenament devin inutile
- Modelele răspund întotdeauna mai repede
- Un model mai mic care gândește mai mult poate rivaliza cu un model mult mai mare care răspunde instantaneu
- What is one reason a fixed best-of-N strategy may waste inference compute?
- It spends the same candidate budget on easy and difficult prompts
- It modifies model weights on every query
- It cannot generate multiple candidates
- It eliminates the need for scoring
- What did the test-time compute paper compare with best-of-N sampling?
- A strategy that disables inference
- A compute-optimal strategy that allocates effort based on expected solution quality
- A larger tokenizer vocabulary
- A method that changes image resolution