Rehber bağlantılı sınav · Orta Seviye

Degrade Kırpma Testi

Norm ve değer kırpma, yön koruma, patlayan gradyan kontrolü ve farklı gizlilikli eğitimde örnek başına kırpma işlemlerini kontrol eder.

İlgili kılavuz yollarıDegrade Kırpma
Soru 1 arasında 8

Norm bazında gradyan kırpma, güncellemeyi sınırlandırırken öncelikle neyi korur?

Her soruyu önizleyin8 sorular

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

  1. Norm bazında gradyan kırpma, güncellemeyi sınırlandırırken öncelikle neyi korur?
    • Genel degrade güncellemesinin yönü
    • Her eğimin kesin büyüklüğü
    • Model parametrelerinin sayısı
    • Öğrenme oranı çizelgesi
  2. c eşiğiyle norm bazında, gradyan normu g_norm c'yi aştığında ne olur?
    • Degradeler sıfıra ayarlandı
    • Her degrade c / g_norm ile çarpılır
    • Eğitim durakları
    • Öğrenme oranı iki katına çıkar
  3. Degrade kırpma özellikle hangi sorunla mücadele etmek için tasarlanmıştır?
    • Kaybolan degradeler
    • Yavaş veri yükleme
    • Patlayan degradeler
    • Doğrulama kümesine aşırı uyum
  4. Değere göre klibin norma göre klibe göre farkı nedir?
    • Her zaman güncelleme yönünü korur
    • Yalnızca evrişimli katmanlarda çalışır
    • Degradeleri tamamen kaldırır
    • Her degrade bileşenini bağımsız olarak yönü değiştirebilen bir aralığa sıkıştırır
  5. A minibatch produces an unusually large global gradient norm. What does clip-by-norm do before the optimizer update?
    • Scales the full gradient vector down to the configured threshold when the norm exceeds it
    • Changes the model’s labels
    • Drops every gradient component independently
    • Increases the learning rate until the loss recovers
  6. Diferansiyel olarak özel eğitimde (DP-SGD), örnek başına degrade kırpmanın rolü nedir?
    • Verileri şifreliyor
    • Her örneğin etkisini sınırlar, böylece kalibre edilmiş gürültü gizliliği garanti edebilir
    • Parti boyutunu artırır
    • Kayıp fonksiyonuna olan ihtiyacı ortadan kaldırır
  7. The global gradient norm is twice a clipping threshold c. By what factor is the gradient scaled?
    • iki
    • One quarter
    • One half (c divided by 2c)
    • It is left unchanged
  8. Why does DP-SGD clip each example’s gradient before adding calibrated noise?
    • To make all examples have the same label
    • To remove the need for a privacy budget
    • To increase the norm of rare-class gradients
    • To bound an individual example’s influence on the released update