Rehber bağlantılı sınav · Orta Seviye

Kodlayıcı-Kod Çözücü Mimarileri Testi

Çeviri ve dil görevlerinde kodlayıcı-kod çözücü modeli bileşenlerini, kaynaktan hedefe dikkati ve metinden metne kullanımlarını gözden geçirin.

İlgili kılavuz yollarıKodlayıcı Kod Çözücü Mimarileri
Soru 1 arasında 8

Kodlayıcı-kod çözücü modelinde kodlayıcının asıl görevi nedir?

Her soruyu önizleyin8 sorular

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

  1. Kodlayıcı-kod çözücü modelinde kodlayıcının asıl görevi nedir?
    • Girişi okumak ve onu zengin dahili temsillere dönüştürmek için
    • Çıktıyı bir seferde bir jeton oluşturmak için
    • Aday çıktıları olasılığa göre sıralamak için
    • Modelin eğitim verilerini depolamak için
  2. Kod çözücü neden maskelenmiş (nedensel) kişisel dikkati kullanıyor?
    • Girişi kodlayıcıdan gizlemek için
    • Oluşturma sırasında her pozisyonun gelecekteki tokenleri görmesini önlemek için
    • Çıktıyı daha az jetona sıkıştırmak için
    • Düzenleme amacıyla jetonları rastgele bırakmak için
  3. Kod çözücüyü kodlayıcının temsillerine hangi mekanizma bağlar?
    • Bırakma
    • Toplu normalleştirme
    • Çapraz dikkat
    • Konumsal kodlama
  4. Bu modellerden hangisi kodlayıcı-kod çözücü (sıradan diziye) mimarisidir?
    • GPT-3
    • BERT
    • Word2Vec
    • T5
  5. Kodlayıcı-kod çözücü tasarımı neden çeviriye doğal bir uyum sağlıyor?
    • Giriş ve çıkış farklı sıralar olduğundan, tam olarak anlaşılması ve yeni nesil oluşturulması gerekir.
    • Çünkü giriş ve çıkış her zaman aynı uzunluktadır
    • Çünkü hiçbir zaman yeni metin üretmeye gerek duymaz
    • Çünkü dikkati tamamen kullanmaktan kaçınır
  6. In the original Transformer architecture, what attention does the encoder use over its input sequence?
    • Causal attention that hides all earlier source tokens
    • Bidirectional self-attention over the full source sequence
    • Cross-attention only to an image sequence
    • No attention mechanism
  7. What training objective does BART use for pretraining?
    • It predicts only the next pixel in an image
    • It classifies each word into a fixed sentiment label
    • It corrupts text and trains a sequence-to-sequence denoising model to reconstruct the original
    • It performs speech recognition from raw audio
  8. How does T5 frame many NLP tasks for one encoder-decoder model?
    • As image classification with a shared label set
    • As speech waveforms with no text tokens
    • As separate model architectures for each task
    • As text-to-text inputs and outputs with task descriptions in the input text