แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ
แบบทดสอบการฝังตามบริบทของ ELMo
ตรวจสอบว่าโมเดลภาษาแบบสองทิศทางของ ELMo สร้างเวกเตอร์คำที่ไวต่อบริบทและรวมเลเยอร์ที่เกิดซ้ำสำหรับงานดาวน์สตรีมได้อย่างไร
คำถาม 1 ของ 8
อะไรคือความแตกต่างที่สำคัญระหว่าง ELMo และการฝังรุ่นก่อนหน้าเช่น Word2Vec?
ดูตัวอย่างทุกคำถาม8 คำถาม
คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ
- อะไรคือความแตกต่างที่สำคัญระหว่าง ELMo และการฝังรุ่นก่อนหน้าเช่น Word2Vec?
- ELMo ให้เวกเตอร์ที่แตกต่างกันในคำเดียวกัน ขึ้นอยู่กับบริบทของประโยค
- ELMo ใช้เวกเตอร์ที่เล็กกว่า
- ELMo ใช้งานได้กับคำเดียวเท่านั้น ไม่ใช่ประโยค
- ELMo ไม่ต้องการข้อมูลการฝึกอบรม
- ELMo ใช้สถาปัตยกรรมประสาทอะไรในการอ่านข้อความ
- หม้อแปลงไฟฟ้าที่มีความสนใจในตนเอง
- โมเดลภาษา LSTM แบบสองทิศทางเชิงลึก
- เครือข่ายภาพแบบบิดเบี้ยว
- เครือข่ายฟีดฟอร์เวิร์ดที่เรียบง่าย
- ELMo รวมเลเยอร์ภายในสำหรับงานดาวน์สตรีมอย่างไร
- ใช้เฉพาะชั้นบนสุดสุดท้ายเท่านั้น
- โดยจะเฉลี่ยเลเยอร์ทั้งหมดเท่ากันและแก้ไขผลลัพธ์
- ใช้ชุดค่าผสมแบบถ่วงน้ำหนักเฉพาะงานที่เรียนรู้แล้วของทุกเลเยอร์
- โดยจะสุ่มเลือกชั้นละ 1 ชั้น
- ELMo ใช้เป็นหน่วยอินพุตเพื่อจัดการกับคำที่มองไม่เห็นอย่างไร
- ค้นหาทั้งคำเท่านั้น
- แก้ไขรหัสพจนานุกรม
- คำย่อยที่เข้ารหัสแบบไบต์คู่จาก BERT
- การนำเสนอระดับตัวละครของ CNN
- ประมาณว่า ELMo ได้รับการแนะนำเมื่อใดและโดยใคร?
- 2018 โดยสถาบัน Allen สำหรับนักวิจัย AI
- 2013 โดยทีมงาน Word2Vec ของ Google
- 2020 โดย OpenAI
- 2558 โดย Facebook AI
- Which corpus was used to train the bidirectional language model described in the ELMo paper?
- The One Billion Word Benchmark
- The Penn Treebank only
- A corpus of labeled images
- The GloVe Common Crawl vectors
- What language-model prediction does ELMo's forward LSTM learn?
- Predicting the previous word from future context
- Assigning a fixed vector to every document
- Predicting the next word from the preceding context
- Predicting a sentence's image resolution
- What linguistic information do ELMo's lower and higher LSTM layers tend to capture?
- Lower layers encode image color, while higher layers encode audio pitch
- Every layer stores only word frequency and ignores context
- Higher layers are always limited to punctuation prediction
- Lower layers tend toward syntax, while higher layers capture more context-dependent semantics