Rehber bağlantılı sınav · Orta Seviye
ELECTRA Eğitim Öncesi Sınavı
Değiştirilen belirteç algılamayı, oluşturucu ve ayırıcı rollerini, belirteç konumları arasında öğrenmeyi ve işlem karşılaştırmalarının sınırlarını açıklar.
Soru 1 arasında 8
ELECTRA maskeli dil modellemesi yerine hangi ön eğitim görevini kullanıyor?
Her soruyu önizleyin8 sorular
Testi çözdüğünüzde cevaplar ve açıklamalar görünür.
- ELECTRA maskeli dil modellemesi yerine hangi ön eğitim görevini kullanıyor?
- Değiştirilen jeton tespiti
- Sonraki cümle tahmini
- Otoregresif sonraki kelime tahmini
- Permütasyon dili modelleme
- ELECTRA neden BERT'ten daha verimlidir?
- Çok daha küçük bir kelime dağarcığı kullanır
- Yalnızca maskelenmiş tokenlar için değil, tüm tokenlar için bir öğrenme sinyali hesaplar
- Yalnızca tokenların maskelenmiş %15'lik kısmı üzerinde eğitim alır
- Dikkat mekanizmasını tamamen atlıyor
- Küçük jeneratör ağının ELECTRA'daki rolü nedir?
- Nihai çıktıları kaliteye göre sıralar
- Eğitimden sonra modeli sıkıştırır
- Ayrımcının yargılaması için makul yedek jetonlar üretir
- Metni diller arasında çevirir
- Ön eğitim tamamlandıktan sonra jeneratöre ne olur?
- Aşağı akış görevi için ince ayar yapılmıştır
- Ayırıcı ile birleştirilir
- Neslin kod çözücüsü olur
- Atılır; yalnızca ayırıcı kullanılır
- ELECTRA öncelikle hangi kuruluşların araştırmacıları tarafından geliştirildi?
- Google ve Stanford
- Meta AI ve NYU
- OpenAI ve Microsoft
- DeepMind ve Oxford
- Hangi sonraki model ELECTRA'nın değiştirilen jeton algılama fikrini genişletti?
- GPT-2
- DeBERTa-v3
- T5
- Word2Vec
- What happens if ELECTRA’s generator proposes the original token at a position?
- It is always labeled replaced because the generator proposed it
- The position is removed from the input
- That token is treated as original by the discriminator’s replaced-token label
- The whole sequence is discarded
- When comparing ELECTRA with another pretraining method, what makes a compute claim meaningful?
- Compare model names alone
- Assume every ELECTRA run uses one fixed compute ratio
- Ignore generator training cost
- Specify model size, data, training budget, and evaluation setting