Rehber bağlantılı sınav · Orta Seviye

Test Süresi Hesaplama Ölçeklendirme Testi

Çıkarım süresi hesaplamasını, aday aramayı, uyarlanabilir tahsisi ve test süresi çalışmalarında ölçülen maliyet-gecikme ödünleşimlerini gözden geçirin.

İlgili kılavuz yollarıTest Süresi Hesaplama Ölçeklendirmesi
Soru 1 arasında 8

'Test zamanı hesaplaması' ne anlama gelir?

Her soruyu önizleyin8 sorular

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

  1. 'Test zamanı hesaplaması' ne anlama gelir?
    • Hesaplama, modeli veriler üzerinde eğitmek için harcandı
    • Bir modeli indirmek için gereken süre
    • Model çıkarımda bir sorguyu yanıtlarken harcanan hesaplama
    • Veri merkezlerini soğutmak için kullanılan elektrik
  2. In test-time scaling studies, what can extra inference compute be used for?
    • Changing the model’s training data during the request
    • Increasing the number of model parameters automatically
    • Guaranteeing correctness without evaluation
    • Searching or revising candidate solutions and checking their quality
  3. Test zamanı bilgi işlem ölçeklendirmesinin temel avantajı nedir?
    • Daha fazla gecikme ve maliyet karşılığında daha yüksek doğruluk
    • Daha az hafıza ancak daha yavaş eğitim
    • Daha fazla veri ancak daha küçük modeller
    • Daha düşük çözünürlük için daha iyi grafikler
  4. 'N'nin en iyisi' örneklemesi nedir?
    • En büyük N veri kümesine ilişkin eğitim
    • N aday yanıtı oluşturma ve en iyi yanıtı seçme
    • Bir istemin yalnızca ilk N kelimesini kullanma
    • Hız için modeli N farklı bilgisayarda çalıştırmak
  5. Test zamanı hesaplaması neden yeni bir 'ölçeklendirme ekseni' olarak değerlendiriliyor?
    • Herhangi bir eğitim ihtiyacının yerini alır
    • Sadece küçük modellerde çalışır
    • Yalnızca model boyutunu büyütmek yerine çıkarım hesaplaması ekleyerek performansı artırır
    • Bir modelin hizmet verebileceği kullanıcı sayısını azaltır
  6. Test süresi hesaplaması hangi şaşırtıcı sonucu mümkün kılıyor?
    • Modeller herhangi bir GPU olmadan çalışabilir
    • Eğitim verileri gereksiz hale geliyor
    • Modeller her zaman daha hızlı yanıt verir
    • Daha uzun düşünen daha küçük bir model, anında yanıt veren çok daha büyük bir modele rakip olabilir
  7. What is one reason a fixed best-of-N strategy may waste inference compute?
    • It spends the same candidate budget on easy and difficult prompts
    • It modifies model weights on every query
    • It cannot generate multiple candidates
    • It eliminates the need for scoring
  8. What did the test-time compute paper compare with best-of-N sampling?
    • A strategy that disables inference
    • A compute-optimal strategy that allocates effort based on expected solution quality
    • A larger tokenizer vocabulary
    • A method that changes image resolution