Útmutatóhoz kapcsolódó kvíz · Közepes Szint
Tesztidő számítási méretezési kvíz
Review inference-time compute, candidate search, adaptive allocation and the cost-latency tradeoffs measured in test-time studies.
kérdés 1 -ból 8
Mit jelent a „tesztidő számítása”?
Tekintse meg az összes kérdést8 kérdéseket
A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.
- Mit jelent a „tesztidő számítása”?
- A számítás a modell adatokon való betanításával telt el
- A modell letöltéséhez szükséges idő
- Számítási költség, amikor a modell következtetéskor válaszol egy lekérdezésre
- Az adatközpontok hűtésére használt villamos energia
- In test-time scaling studies, what can extra inference compute be used for?
- Changing the model’s training data during the request
- Increasing the number of model parameters automatically
- Guaranteeing correctness without evaluation
- Searching or revising candidate solutions and checking their quality
- Mi a tesztidő-számítási skálázás alapvető kompromisszuma?
- Nagyobb pontosság a több késleltetésért és költségért cserébe
- Kevesebb memória, de lassabb edzés
- Több adat, de kisebb modellek
- Jobb grafika az alacsonyabb felbontásért
- Mi az a „best-of-N” mintavétel?
- Képzés az N legnagyobb adatkészletről
- N számú jelölt válasz létrehozása és a legjobb kiválasztása
- Csak a prompt első N szavát használja
- A modell futtatása N különböző számítógépen a sebesség érdekében
- Miért tekintik a tesztidő számítását új „skálázási tengelynek”?
- Ez helyettesíti a képzés szükségességét
- Csak kis modelleken működik
- Javítja a teljesítményt azáltal, hogy következtetési számításokat ad a modell méretének növelése helyett
- Csökkenti a modell által kiszolgálható felhasználók számát
- Milyen meglepő eredményt tesz lehetővé a tesztidő-számítás?
- A modellek GPU nélkül is futhatnak
- A képzési adatok szükségtelenné válnak
- A modellek mindig gyorsabban válaszolnak
- Egy hosszabban gondolkodó kisebb modell felveheti a versenyt egy sokkal nagyobb modellel, aki azonnal válaszol
- What is one reason a fixed best-of-N strategy may waste inference compute?
- It spends the same candidate budget on easy and difficult prompts
- It modifies model weights on every query
- It cannot generate multiple candidates
- It eliminates the need for scoring
- What did the test-time compute paper compare with best-of-N sampling?
- A strategy that disables inference
- A compute-optimal strategy that allocates effort based on expected solution quality
- A larger tokenizer vocabulary
- A method that changes image resolution