Rehber bağlantılı sınav · Orta Seviye
Hızlı Ayarlama Sınavı
Girdi katmanındaki yumuşak ipuçlarını, dondurulmuş model kurulumunu ve ipucu ayarı için bildirilen ölçeğe bağlı sonuçları inceleyin.
Soru 1 arasında 8
İstem ayarlamada 'yumuşak istem' nedir?
Her soruyu önizleyin8 sorular
Testi çözdüğünüzde cevaplar ve açıklamalar görünür.
- İstem ayarlamada 'yumuşak istem' nedir?
- Gerçek kelimelerle eşlenmesi gerekmeyen sürekli yerleştirme vektörleri öğrenildi
- Kibarca ifade edilmiş bir metin talimatı
- Modelin daha küçük bir damıtılmış kopyası
- Dondurulmuş çıktı logitleri kümesi
- Hızlı ayarlama, eğitilebilir vektörlerini nereye ekler?
- Her transformatör katmanında
- Yalnızca giriş gömme katmanında
- Yalnızca çıktı katmanında
- Optimize edici durumunun içinde
- Orijinal makale model ölçeği hakkında hangi şaşırtıcı etkiyi vurguladı?
- Modeller büyüdükçe hızlı ayarlama daha da kötüleşiyor
- Ölçeğin istem ayarlaması üzerinde hiçbir etkisi yoktur
- Modeller büyüdükçe, hızlı ayarlama tam ince ayar kalitesine yaklaşır
- Daha büyük modeller artık hızlı ayarlanamaz
- Hızlı ayarlamayı kim başlattı?
- 2016 yılında DeepMind
- 2023'te Anthropic
- Microsoft 2019'da
- 2021'de Google (Lester, Al-Rfou, Constant) araştırmacıları
- Anında ayarlama, tek bir modelden birçok görevin yerine getirilmesini nasıl mümkün kılar?
- Model donmuş halde kalırken her görev kendi küçük yumuşak istemini kullanır
- Her istek için tüm modeli yeniden eğitir
- Kullanılmayan görevleri ağırlıklardan siler
- Görev başına ayrı bir GPU gerektirir
- Lester ve meslektaşlarının makalesi, ipucu ayarını önek ayarıyla ilişkili olarak nasıl tanımlar?
- Dondurulmuş dil modellerinin bir alternatifi olarak
- Makalenin önek ayarıyla karşılaştırdığı daha basit, ilgili bir yöntem olarak
- Eğitilebilir parametresi olmayan bir belirteçleyici olarak
- Her model ağırlığını güncelleyen bir yöntem olarak
- Lester ve meslektaşları, ipucu ayarını ölçekler genelinde incelemek için hangi model ailesini kullandı?
- WaveNet
- AlphaFold2
- T5
- İzolasyon Ormanı
- İpucu ayarında yumuşak ipuçları nasıl optimize edilir?
- Her görev için tüm model ağırlıklarını değiştirerek
- Gömüleri yalnızca sabit kodlanmış kelimelerle değiştirerek
- Her örnek için yeni bir belirteçleyici eğiterek
- İpucu vektörlerini güncellemek için dondurulmuş bir dil modeli üzerinden geri yayılım ile