Rehber bağlantılı sınav · Orta Seviye

ELMo Bağlamsal Yerleştirmeler Sınavı

ELMo'nun çift yönlü dil modelinin bağlama duyarlı sözcük vektörlerini nasıl oluşturduğunu ve aşağı yönlü görevler için yinelenen katmanları nasıl birleştirdiğini inceleyin.

İlgili kılavuz yollarıElmo Bağlamsal Gömmeler
Soru 1 arasında 8

ELMo ile Word2Vec gibi önceki yerleştirmeler arasındaki temel fark nedir?

Her soruyu önizleyin8 sorular

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

  1. ELMo ile Word2Vec gibi önceki yerleştirmeler arasındaki temel fark nedir?
    • ELMo, cümle bağlamına bağlı olarak aynı kelimeye farklı vektörler verir
    • ELMo daha küçük vektörler kullanıyor
    • ELMo cümleler üzerinde değil, yalnızca tekil kelimeler üzerinde çalışır
    • ELMo eğitim verisi gerektirmez
  2. ELMo metni okumak için hangi sinir mimarisini kullanıyor?
    • Öz-dikkatli bir Transformatör
    • Derin çift yönlü LSTM dil modeli
    • Evrişimsel bir görüntü ağı
    • Basit bir ileri beslemeli ağ
  3. ELMo, aşağı yönlü bir görev için dahili katmanlarını nasıl birleştirir?
    • Yalnızca son üst katmanı kullanır
    • Tüm katmanların ortalamasını eşit şekilde alır ve sonucu sabitler
    • Tüm katmanların öğrenilmiş, göreve özel ağırlıklı kombinasyonlarını kullanır
    • Her seferinde rastgele bir katman seçer
  4. ELMo, görünmeyen sözcükleri işlemek için giriş birimleri olarak neyi kullanıyor?
    • Yalnızca tam kelime araması
    • Sabit sözlük kimlikleri
    • BERT'ten bayt çifti kodlu alt kelimeler
    • Karakter düzeyinde CNN gösterimleri
  5. ELMo yaklaşık olarak ne zaman ve kim tarafından tanıtıldı?
    • 2018, Allen Yapay Zeka Enstitüsü araştırmacıları tarafından
    • 2013, Google'in Word2Vec ekibi tarafından
    • 2020, OpenAI tarafından
    • 2015, Facebook AI tarafından
  6. ELMo makalesinde açıklanan çift yönlü dil modelini eğitmek için hangi derlem kullanıldı?
    • Bir Milyar Kelime Karşılaştırması
    • Yalnızca Penn Treebank
    • Etiketli görsellerden oluşan bir koleksiyon
    • GloVe Ortak Tarama vektörleri
  7. ELMo'nun ileri LSTM'si hangi dil modeli tahminini öğreniyor?
    • Önceki kelimeyi gelecekteki bağlamdan tahmin etme
    • Her belgeye sabit bir vektör atama
    • Önceki bağlamdan sonraki kelimeyi tahmin etme
    • Bir cümlenin görüntü çözünürlüğünü tahmin etme
  8. ELMo'nun alt ve üst LSTM katmanları hangi dilsel bilgileri yakalama eğilimindedir?
    • Alt katmanlar görüntünün rengini kodlarken, yüksek katmanlar ses perdesini kodlar
    • Her katman yalnızca sözcük sıklığını saklar ve bağlamı göz ardı eder
    • Daha yüksek katmanlar her zaman noktalama işareti tahminiyle sınırlıdır
    • Alt katmanlar sözdizimine yönelirken, yüksek katmanlar daha çok bağlama bağlı anlambilimi yakalar