Rehber bağlantılı sınav · Orta Seviye
Transfer Testi için Adaptör Katmanları
Darboğaz bağdaştırıcılarının donmuş bir temel modeli nasıl koruduğunu kontrol edin, modüler görevi veya etki alanı aktarımını nasıl etkinleştirin ve LoRA ile karşılaştırın.
Soru 1 arasında 8
Adaptörlerle antrenman yaparken orijinal önceden eğitilmiş ağırlıklara ne olur?
Her soruyu önizleyin8 sorular
Testi çözdüğünüzde cevaplar ve açıklamalar görünür.
- Adaptörlerle antrenman yaparken orijinal önceden eğitilmiş ağırlıklara ne olur?
- Yalnızca adaptör parametreleri eğitilirken dondurulurlar
- Silindiler
- Rastgele yeniden başlatılırlar
- Boyutları iki katına çıktı
- Bir darboğaz adaptörünün tipik iç yapısı nedir?
- Tek bir devasa yoğun katman
- Bir aşağı projeksiyon, bir doğrusal olmama, ardından artık bağlantılı bir yukarı projeksiyon
- Sadece bir dikkat kafası
- Evrişimli bir görüntü filtresi
- Bağdaştırıcılar genellikle parametrelerin kabaca ne kadarını eğitir?
- %100
- Tam olarak %50
- Çoğunlukla %5'in altında
- Hiç yok
- Bağdaştırıcılar neden birçok görevi yerine getirmeye uygundur?
- Görev başına ayrı bir tam model kopyası gerektirirler
- Birleştirilemezler
- Her görevden sonra temel modeli silerler
- Bir temel modeli elinizde tutarsınız ve görev başına küçük adaptörleri değiştirirsiniz
- Adaptörler hangi teknik ailesine aittir?
- Parametre açısından verimli ince ayar (PEFT)
- Veri artırma
- Görüntü sıkıştırma
- Tokenizasyon şemaları
- LoRA, çıkarım zamanında klasik takılı adaptöre göre ne gibi avantajlar sunuyor?
- Eğitilemez
- Öğrenilen ağırlıklar, katman başına ekstra gecikmeyi önleyerek temel matrislerle birleştirilebilir
- Tüm modelin yeniden eğitilmesini gerektirir
- Artık bağlantıyı kalıcı olarak kaldırır
- What does a residual connection contribute to a classic bottleneck adapter?
- A second full pretrained model copy for each task
- A mandatory external retrieval database
- A path that adds the adapter’s transformed representation back to the original hidden state
- A guarantee that no added computation occurs
- What is one benefit of stacking a domain adapter with a task adapter?
- Merge all user data into the frozen base weights automatically
- Avoid using any adapter modules
- Convert a language model into a vision encoder
- Reuse a domain specialization together with a separate task specialization