แบบทดสอบที่เชื่อมโยงกับคำแนะนำ · ปานกลาง ระดับ
แบบทดสอบแบบจำลองตามลำดับต่อลำดับ
เรียนรู้ว่าโมเดลตัวเข้ารหัส-ตัวถอดรหัสจับคู่ลำดับอินพุตกับเอาต์พุตที่มีความยาวต่างกันได้อย่างไร โดยใช้กลไกความสนใจและความสนใจแบบข้าม
คำถาม 1 ของ 8
องค์ประกอบหลักสองประการของโมเดลลำดับต่อลำดับคืออะไร
ดูตัวอย่างทุกคำถาม8 คำถาม
คำตอบและคำอธิบายจะปรากฏขึ้นเมื่อคุณทำแบบทดสอบ
- องค์ประกอบหลักสองประการของโมเดลลำดับต่อลำดับคืออะไร
- ตัวเข้ารหัสและตัวถอดรหัส
- โทเค็นไนเซอร์และลักษณนาม
- ตัวเข้ารหัสสองตัวที่เหมือนกัน
- ตัวกรองและอันดับ
- กลไกความสนใจแก้ปัญหาสำคัญอะไรในโมเดล seq2seq
- โทเค็นไลเซชั่นช้า
- คอขวดของเวกเตอร์ที่มีความยาวคงที่สำหรับอินพุตแบบยาว
- ขาดคำศัพท์
- ข้อมูลการฝึกอบรมที่มากเกินไป
- โมเดลการแปล seq2seq ดั้งเดิมปี 2014 ใช้สถาปัตยกรรมใด
- เครือข่ายแบบ Convolutional
- ต้นไม้การตัดสินใจ
- LSTM แบบเรียงซ้อน
- ชั้นฟีดไปข้างหน้าแบบเปลือย
- ความสนใจสร้างบริบทสำหรับแต่ละขั้นตอนการถอดรหัสอย่างไร
- โดยนำโทเค็นอินพุตทั้งหมดมาเฉลี่ยเท่าๆ กัน
- โดยละเว้นตัวเข้ารหัสโดยสิ้นเชิง
- โดยการคัดลอกโทเค็นอินพุตล่าสุด
- โดยผลรวมถ่วงน้ำหนักของสถานะตัวเข้ารหัสโดยใช้คะแนนการจัดตำแหน่ง
- เหตุใดเอาต์พุต seq2seq จึงมีความยาวแตกต่างจากอินพุตได้
- ตัวถอดรหัสจะสร้างโทเค็นจนกว่าจะส่งสัญญาณหยุด
- อินพุตและเอาต์พุตจะมีความยาวเท่ากันเสมอ
- ตัวเข้ารหัสจะรองรับทุกอย่าง
- ความยาวได้รับการแก้ไขล่วงหน้า
- โมเดลสมัยใหม่ใดบ้างที่เป็นสถาปัตยกรรม seq2seq ที่ใช้ Transformer ยอดนิยม
- ResNet และ VGG
- T5 และบาร์ต
- เคมีนและ PCA
- Word2Vec และ GloVe
- In encoder-decoder attention, which representations are commonly used as keys and values?
- Only the decoder’s future hidden states
- The vocabulary file’s byte offsets
- The encoder’s output representations
- The optimizer’s learning-rate history
- What does a bidirectional encoder provide to an attention-based decoder?
- A fixed one-token output regardless of the input
- A guarantee that output length equals input length
- A causal mask over future target tokens
- Contextual representations of source tokens that can use information from both directions