Rehber bağlantılı sınav · Orta Seviye

Transfer Testi için Adaptör Katmanları

Darboğaz bağdaştırıcılarının donmuş bir temel modeli nasıl koruduğunu kontrol edin, modüler görevi veya etki alanı aktarımını nasıl etkinleştirin ve LoRA ile karşılaştırın.

İlgili kılavuz yollarıAktarım İçin Adaptör Katmanları
Soru 1 arasında 8

Adaptörlerle antrenman yaparken orijinal önceden eğitilmiş ağırlıklara ne olur?

Her soruyu önizleyin8 sorular

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

  1. Adaptörlerle antrenman yaparken orijinal önceden eğitilmiş ağırlıklara ne olur?
    • Yalnızca adaptör parametreleri eğitilirken dondurulurlar
    • Silindiler
    • Rastgele yeniden başlatılırlar
    • Boyutları iki katına çıktı
  2. Bir darboğaz adaptörünün tipik iç yapısı nedir?
    • Tek bir devasa yoğun katman
    • Bir aşağı projeksiyon, bir doğrusal olmama, ardından artık bağlantılı bir yukarı projeksiyon
    • Sadece bir dikkat kafası
    • Evrişimli bir görüntü filtresi
  3. Bağdaştırıcılar genellikle parametrelerin kabaca ne kadarını eğitir?
    • %100
    • Tam olarak %50
    • Çoğunlukla %5'in altında
    • Hiç yok
  4. Bağdaştırıcılar neden birçok görevi yerine getirmeye uygundur?
    • Görev başına ayrı bir tam model kopyası gerektirirler
    • Birleştirilemezler
    • Her görevden sonra temel modeli silerler
    • Bir temel modeli elinizde tutarsınız ve görev başına küçük adaptörleri değiştirirsiniz
  5. Adaptörler hangi teknik ailesine aittir?
    • Parametre açısından verimli ince ayar (PEFT)
    • Veri artırma
    • Görüntü sıkıştırma
    • Tokenizasyon şemaları
  6. LoRA, çıkarım zamanında klasik takılı adaptöre göre ne gibi avantajlar sunuyor?
    • Eğitilemez
    • Öğrenilen ağırlıklar, katman başına ekstra gecikmeyi önleyerek temel matrislerle birleştirilebilir
    • Tüm modelin yeniden eğitilmesini gerektirir
    • Artık bağlantıyı kalıcı olarak kaldırır
  7. What does a residual connection contribute to a classic bottleneck adapter?
    • A second full pretrained model copy for each task
    • A mandatory external retrieval database
    • A path that adds the adapter’s transformed representation back to the original hidden state
    • A guarantee that no added computation occurs
  8. What is one benefit of stacking a domain adapter with a task adapter?
    • Merge all user data into the frozen base weights automatically
    • Avoid using any adapter modules
    • Convert a language model into a vision encoder
    • Reuse a domain specialization together with a separate task specialization