แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ

แบบทดสอบแบบจำลองตามลำดับต่อลำดับ

เรียนรู้ว่าโมเดลตัวเข้ารหัส-ตัวถอดรหัสจับคู่ลำดับอินพุตกับเอาต์พุตที่มีความยาวต่างกันได้อย่างไร โดยใช้กลไกความสนใจและความสนใจแบบข้าม

เส้นทางแนะนำที่เกี่ยวข้องลำดับต่อโมเดลลำดับ
คำถาม 1 ของ 8

องค์ประกอบหลักสองประการของโมเดลลำดับต่อลำดับคืออะไร

ดูตัวอย่างทุกคำถาม8 คำถาม

คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ

  1. องค์ประกอบหลักสองประการของโมเดลลำดับต่อลำดับคืออะไร
    • ตัวเข้ารหัสและตัวถอดรหัส
    • โทเค็นไนเซอร์และลักษณนาม
    • ตัวเข้ารหัสสองตัวที่เหมือนกัน
    • ตัวกรองและอันดับ
  2. กลไกความสนใจแก้ปัญหาสำคัญอะไรในโมเดล seq2seq
    • โทเค็นไลเซชั่นช้า
    • คอขวดของเวกเตอร์ที่มีความยาวคงที่สำหรับอินพุตแบบยาว
    • ขาดคำศัพท์
    • ข้อมูลการฝึกอบรมที่มากเกินไป
  3. โมเดลการแปล seq2seq ดั้งเดิมปี 2014 ใช้สถาปัตยกรรมใด
    • เครือข่ายแบบ Convolutional
    • ต้นไม้การตัดสินใจ
    • LSTM แบบเรียงซ้อน
    • ชั้นฟีดไปข้างหน้าแบบเปลือย
  4. ความสนใจสร้างบริบทสำหรับแต่ละขั้นตอนการถอดรหัสอย่างไร
    • โดยนำโทเค็นอินพุตทั้งหมดมาเฉลี่ยเท่าๆ กัน
    • โดยละเว้นตัวเข้ารหัสโดยสิ้นเชิง
    • โดยการคัดลอกโทเค็นอินพุตล่าสุด
    • โดยผลรวมถ่วงน้ำหนักของสถานะตัวเข้ารหัสโดยใช้คะแนนการจัดตำแหน่ง
  5. เหตุใดเอาต์พุต seq2seq จึงมีความยาวแตกต่างจากอินพุตได้
    • ตัวถอดรหัสจะสร้างโทเค็นจนกว่าจะส่งสัญญาณหยุด
    • อินพุตและเอาต์พุตจะมีความยาวเท่ากันเสมอ
    • ตัวเข้ารหัสจะรองรับทุกอย่าง
    • ความยาวได้รับการแก้ไขล่วงหน้า
  6. โมเดลสมัยใหม่ใดบ้างที่เป็นสถาปัตยกรรม seq2seq ที่ใช้ Transformer ยอดนิยม
    • ResNet และ VGG
    • T5 และบาร์ต
    • เคมีนและ PCA
    • Word2Vec และ GloVe
  7. In encoder-decoder attention, which representations are commonly used as keys and values?
    • Only the decoder’s future hidden states
    • The vocabulary file’s byte offsets
    • The encoder’s output representations
    • The optimizer’s learning-rate history
  8. What does a bidirectional encoder provide to an attention-based decoder?
    • A fixed one-token output regardless of the input
    • A guarantee that output length equals input length
    • A causal mask over future target tokens
    • Contextual representations of source tokens that can use information from both directions