Rehber bağlantılı sınav · Orta Seviye

ELECTRA Eğitim Öncesi Sınavı

Değiştirilen belirteç algılamayı, oluşturucu ve ayırıcı rollerini, belirteç konumları arasında öğrenmeyi ve işlem karşılaştırmalarının sınırlarını açıklar.

İlgili kılavuz yollarıElectra Ön Eğitimi
Soru 1 arasında 8

ELECTRA maskeli dil modellemesi yerine hangi ön eğitim görevini kullanıyor?

Her soruyu önizleyin8 sorular

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

  1. ELECTRA maskeli dil modellemesi yerine hangi ön eğitim görevini kullanıyor?
    • Değiştirilen jeton tespiti
    • Sonraki cümle tahmini
    • Otoregresif sonraki kelime tahmini
    • Permütasyon dili modelleme
  2. ELECTRA neden BERT'ten daha verimlidir?
    • Çok daha küçük bir kelime dağarcığı kullanır
    • Yalnızca maskelenmiş tokenlar için değil, tüm tokenlar için bir öğrenme sinyali hesaplar
    • Yalnızca tokenların maskelenmiş %15'lik kısmı üzerinde eğitim alır
    • Dikkat mekanizmasını tamamen atlıyor
  3. Küçük jeneratör ağının ELECTRA'daki rolü nedir?
    • Nihai çıktıları kaliteye göre sıralar
    • Eğitimden sonra modeli sıkıştırır
    • Ayrımcının yargılaması için makul yedek jetonlar üretir
    • Metni diller arasında çevirir
  4. Ön eğitim tamamlandıktan sonra jeneratöre ne olur?
    • Aşağı akış görevi için ince ayar yapılmıştır
    • Ayırıcı ile birleştirilir
    • Neslin kod çözücüsü olur
    • Atılır; yalnızca ayırıcı kullanılır
  5. ELECTRA öncelikle hangi kuruluşların araştırmacıları tarafından geliştirildi?
    • Google ve Stanford
    • Meta AI ve NYU
    • OpenAI ve Microsoft
    • DeepMind ve Oxford
  6. Hangi sonraki model ELECTRA'nın değiştirilen jeton algılama fikrini genişletti?
    • GPT-2
    • DeBERTa-v3
    • T5
    • Word2Vec
  7. What happens if ELECTRA’s generator proposes the original token at a position?
    • It is always labeled replaced because the generator proposed it
    • The position is removed from the input
    • That token is treated as original by the discriminator’s replaced-token label
    • The whole sequence is discarded
  8. When comparing ELECTRA with another pretraining method, what makes a compute claim meaningful?
    • Compare model names alone
    • Assume every ELECTRA run uses one fixed compute ratio
    • Ignore generator training cost
    • Specify model size, data, training budget, and evaluation setting