แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ

แบบทดสอบการฝังตามบริบทของ ELMo

ตรวจสอบว่าโมเดลภาษาแบบสองทิศทางของ ELMo สร้างเวกเตอร์คำที่ไวต่อบริบทและรวมเลเยอร์ที่เกิดซ้ำสำหรับงานดาวน์สตรีมได้อย่างไร

เส้นทางแนะนำที่เกี่ยวข้องการฝังตามบริบทของ Elmo
คำถาม 1 ของ 8

อะไรคือความแตกต่างที่สำคัญระหว่าง ELMo และการฝังรุ่นก่อนหน้าเช่น Word2Vec?

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. อะไรคือความแตกต่างที่สำคัญระหว่าง ELMo และการฝังรุ่นก่อนหน้าเช่น Word2Vec?
    • ELMo ให้เวกเตอร์ที่แตกต่างกันในคำเดียวกัน ขึ้นอยู่กับบริบทของประโยค
    • ELMo ใช้เวกเตอร์ที่เล็กกว่า
    • ELMo ใช้งานได้กับคำเดียวเท่านั้น ไม่ใช่ประโยค
    • ELMo ไม่ต้องการข้อมูลการฝึกอบรม
  2. ELMo ใช้สถาปัตยกรรมประสาทอะไรในการอ่านข้อความ
    • หม้อแปลงไฟฟ้าที่มีความสนใจในตนเอง
    • โมเดลภาษา LSTM แบบสองทิศทางเชิงลึก
    • เครือข่ายภาพแบบบิดเบี้ยว
    • เครือข่ายฟีดฟอร์เวิร์ดที่เรียบง่าย
  3. ELMo รวมเลเยอร์ภายในสำหรับงานดาวน์สตรีมอย่างไร
    • ใช้เฉพาะชั้นบนสุดสุดท้ายเท่านั้น
    • โดยจะเฉลี่ยเลเยอร์ทั้งหมดเท่ากันและแก้ไขผลลัพธ์
    • ใช้ชุดค่าผสมแบบถ่วงน้ำหนักเฉพาะงานที่เรียนรู้แล้วของทุกเลเยอร์
    • โดยจะสุ่มเลือกชั้นละ 1 ชั้น
  4. ELMo ใช้เป็นหน่วยอินพุตเพื่อจัดการกับคำที่มองไม่เห็นอย่างไร
    • ค้นหาทั้งคำเท่านั้น
    • แก้ไขรหัสพจนานุกรม
    • คำย่อยที่เข้ารหัสแบบไบต์คู่จาก BERT
    • การนำเสนอระดับตัวละครของ CNN
  5. ประมาณว่า ELMo ได้รับการแนะนำเมื่อใดและโดยใคร?
    • 2018 โดยสถาบัน Allen สำหรับนักวิจัย AI
    • 2013 โดยทีมงาน Word2Vec ของ Google
    • 2020 โดย OpenAI
    • 2558 โดย Facebook AI
  6. Which corpus was used to train the bidirectional language model described in the ELMo paper?
    • The One Billion Word Benchmark
    • The Penn Treebank only
    • A corpus of labeled images
    • The GloVe Common Crawl vectors
  7. What language-model prediction does ELMo's forward LSTM learn?
    • Predicting the previous word from future context
    • Assigning a fixed vector to every document
    • Predicting the next word from the preceding context
    • Predicting a sentence's image resolution
  8. What linguistic information do ELMo's lower and higher LSTM layers tend to capture?
    • Lower layers encode image color, while higher layers encode audio pitch
    • Every layer stores only word frequency and ignores context
    • Higher layers are always limited to punctuation prediction
    • Lower layers tend toward syntax, while higher layers capture more context-dependent semantics