Test legat de ghid · Mediu Nivel

Quiz cu rețete de antrenament Roberta

Examinați mascarea lui RoBERTa, obiectivele de preformare, scala de date, tokenizer, varianta multilingvă și lecții despre comparații controlate de modele.

Căi de ghidare aferenteReteta de antrenament Roberta
Întrebare 1 de 8

Care a fost ideea principală a Robertei despre BERT original?

Previzualizează fiecare întrebare8 întrebări

Răspunsurile și explicațiile apar pe măsură ce susțineți testul.

  1. Care a fost ideea principală a Robertei despre BERT original?
    • Arhitectura lui BERT era fundamental defectuoasă
    • BERT a folosit prea mulți parametri
    • BERT a fost semnificativ subantrenat
    • BERT avea nevoie de un decodor adăugat
  2. Ce obiectiv BERT a eliminat Roberta?
    • Predicția următoarei propoziții
    • Modelarea limbajului mascat
    • Clasificarea jetoanelor
    • Detectarea jetonului înlocuit
  3. Ce este mascarea dinamică în Roberta?
    • Mascarea doar a celor mai rare cuvinte din corpus
    • Mascarea propozițiilor întregi deodată
    • Nu mascați niciodată același simbol de două ori într-un corpus
    • Generarea unui nou model de mască de fiecare dată când este văzută o secvență
  4. Cum s-au comparat datele de antrenament ale Robertei cu cele ale BERT?
    • A folosit același 16 GB de text
    • A folosit aproximativ 160 GB, de aproximativ 10 ori mai mult
    • A folosit mai puține date, dar etichete mai curate
    • A folosit doar Wikipedia
  5. Ce organizație a lansat-o pe Roberta?
    • Facebook AI (Meta)
    • Google AI
    • OpenAI
    • Microsoft Cercetare
  6. Cum se numește versiunea multilingvă a lui Roberta?
    • mBERT
    • ROBERTa-XL
    • XLM-R (XLM-RoBERTa)
    • PolyRoBERTa
  7. Which text encoding did the RoBERTa recipe use according to the guide?
    • A fixed vocabulary of complete words only
    • Byte-level byte-pair encoding
    • One image patch per token
    • A phoneme-only vocabulary
  8. A researcher credits a new layer for beating BERT but also changes the data volume and training duration. Which lesson from RoBERTa matters?
    • Architecture changes always explain every improvement
    • Training duration can be ignored if the benchmark is the same
    • Data volume cannot affect an encoder
    • Training choices can account for gains, so they must be considered when comparing models