Útmutatóhoz kapcsolódó kvíz · Közepes Szint

Tesztidő számítási méretezési kvíz

Review inference-time compute, candidate search, adaptive allocation and the cost-latency tradeoffs measured in test-time studies.

Kapcsolódó útmutató utakTesztidő számítási skálázás
kérdés 1 -ból 8

Mit jelent a „tesztidő számítása”?

Tekintse meg az összes kérdést8 kérdéseket

A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.

  1. Mit jelent a „tesztidő számítása”?
    • A számítás a modell adatokon való betanításával telt el
    • A modell letöltéséhez szükséges idő
    • Számítási költség, amikor a modell következtetéskor válaszol egy lekérdezésre
    • Az adatközpontok hűtésére használt villamos energia
  2. In test-time scaling studies, what can extra inference compute be used for?
    • Changing the model’s training data during the request
    • Increasing the number of model parameters automatically
    • Guaranteeing correctness without evaluation
    • Searching or revising candidate solutions and checking their quality
  3. Mi a tesztidő-számítási skálázás alapvető kompromisszuma?
    • Nagyobb pontosság a több késleltetésért és költségért cserébe
    • Kevesebb memória, de lassabb edzés
    • Több adat, de kisebb modellek
    • Jobb grafika az alacsonyabb felbontásért
  4. Mi az a „best-of-N” mintavétel?
    • Képzés az N legnagyobb adatkészletről
    • N számú jelölt válasz létrehozása és a legjobb kiválasztása
    • Csak a prompt első N szavát használja
    • A modell futtatása N különböző számítógépen a sebesség érdekében
  5. Miért tekintik a tesztidő számítását új „skálázási tengelynek”?
    • Ez helyettesíti a képzés szükségességét
    • Csak kis modelleken működik
    • Javítja a teljesítményt azáltal, hogy következtetési számításokat ad a modell méretének növelése helyett
    • Csökkenti a modell által kiszolgálható felhasználók számát
  6. Milyen meglepő eredményt tesz lehetővé a tesztidő-számítás?
    • A modellek GPU nélkül is futhatnak
    • A képzési adatok szükségtelenné válnak
    • A modellek mindig gyorsabban válaszolnak
    • Egy hosszabban gondolkodó kisebb modell felveheti a versenyt egy sokkal nagyobb modellel, aki azonnal válaszol
  7. What is one reason a fixed best-of-N strategy may waste inference compute?
    • It spends the same candidate budget on easy and difficult prompts
    • It modifies model weights on every query
    • It cannot generate multiple candidates
    • It eliminates the need for scoring
  8. What did the test-time compute paper compare with best-of-N sampling?
    • A strategy that disables inference
    • A compute-optimal strategy that allocates effort based on expected solution quality
    • A larger tokenizer vocabulary
    • A method that changes image resolution