Rehber bağlantılı sınav · Orta Seviye

WordPiece Tokenizasyon Sınavı

Çok dilli BERT'teki rolü ve BPE ile karşıtlığı da dahil olmak üzere WordPiece'in sözcük dağarcığını ve açgözlü bölümleme kurallarını gözden geçirin.

İlgili kılavuz yollarıSözcük Parçası Tokenizasyonu
Soru 1 arasında 8

WordPiece çıktısında '##' öneki neyi gösterir?

Her soruyu önizleyin8 sorular

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

  1. WordPiece çıktısında '##' öneki neyi gösterir?
    • Belirteç, kelimenin baş harfi değil, kelimenin içindeki bir devam parçasıdır
    • Belirteç, [SEP] gibi özel bir ayırıcıdır
    • Belirteç, sözlükte en yüksek frekansa sahiptir
    • Belirteç, bilinmeyen, sözlük dışı bir işaretleyicidir
  2. Orijinal BERT tarafından kullanılan WordPiece kelime dağarcığı kabaca ne kadardır?
    • Yaklaşık 256 jeton
    • Yaklaşık 30.000 jeton
    • Yaklaşık 1 milyon jeton
    • Yaklaşık 500 jeton
  3. WordPiece'in birleştirme kriterinin standart Bayt Çifti Kodlamasından farkı nedir?
    • Kelime dağarcığını azaltmak için en nadir çifti birleştirir
    • Hiçbir zaman birleşmez ve yalnızca karakterleri kullanır
    • Ham frekanstan ziyade eğitim verilerinin olasılığını maksimuma çıkararak birleşir
    • Eğitim sırasında çiftleri rastgele birleştirir
  4. What does a BERT-style WordPiece tokenizer return if it cannot segment a word into vocabulary pieces?
    • It always falls back to individual Unicode characters
    • A random subword selected from the vocabulary
    • The original word encoded as one new token
    • The unknown-token marker, such as [UNK]
  5. Çıkarım anında, WordPiece bir kelimenin nasıl bölüneceğini nasıl seçer?
    • Soldan sağa, sözlükteki en uzun alt kelimeyi açgözlülükle eşleştirir
    • Önce mümkün olan en kısa parçaları seçer
    • Mümkün olan her bölünmeyi dener ve bunların ortalamasını alır
    • Bölünmeleri tahmin etmek için bir sinir ağı kullanıyor
  6. WordPiece en çok hangi tanınmış model ailesiyle ilişkilidir?
    • GPT modelleri
    • BERT ve türevleri
    • LLaMA modelleri
    • Stable Diffusion
  7. What kind of vocabulary did multilingual BERT use across its training languages?
    • A completely separate vocabulary for every language
    • A vocabulary made only of complete words
    • One shared WordPiece vocabulary
    • A list of byte sequences with no subwords
  8. Which tokenizer class in Hugging Face Transformers constructs a BERT tokenizer that uses WordPiece?
    • GPT2Tokenizer
    • RobertaTokenizer
    • CLIPTokenizer
    • BertTokenizer