Bài kiểm tra đào tạo dự đoán nhiều mã thông báo

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

1. In the cited Meta study, what architecture predicts several future tokens from a training position?
   • A mandatory separate complete language model for every word
   • Independent output heads above a shared transformer trunk
   • One head that can target only the preceding token
   • A larger vocabulary with no additional prediction targets
2. Mô hình nào đặc biệt sử dụng mục tiêu dự đoán nhiều mã thông báo trong quá trình đào tạo trước?
   • Word2Vec gốc
   • Bộ phân loại hình ảnh tích chập
   • Một mô hình n-gram
   • DeepSeek-V3
3. What additional supervision does multi-token training supply at a prefix position?
   • Loss terms for multiple future-token targets
   • Only a larger batch size with the same single target
   • A mandatory image-reconstruction target
   • No prediction loss at any position
4. How are auxiliary predictions used in the Meta paper’s self-speculative inference experiment?
   • They are accepted unconditionally without verification
   • They automatically retrain the model on every prompt
   • They propose tokens that are then checked by the decoding procedure
   • They encrypt every generated token
5. Điều gì xảy ra với các đầu phụ sau khi tập luyện nếu bạn không cần tăng tốc?
   • Họ phải ở lại và tăng gấp đôi kích thước mô hình
   • Chúng có thể bị loại bỏ nên quy mô triển khai không thay đổi
   • Họ biến thành các lớp chú ý
   • Họ trở thành tokenizer
6. Which evaluated task family showed notable gains in the Meta multi-token study?
   • Code generation benchmarks
   • A guarantee of perfect code compilation in every language
   • Only alphabetizing raw filenames
   • A required quantum-sensor prediction task
7. In a four-head offset design predicting from prefix position t, which token is the fourth head’s target?
   • The token at t−4
   • The token at t+1 for every head
   • Only the token at t itself
   • The token at t+4
8. What distinguishes DeepSeek-V3’s stated MTP architecture from the cited independent parallel-head implementation?
   • It predicts only tokens before the prefix
   • It requires every target to be an image pixel
   • Sequential auxiliary modules that preserve a causal chain across prediction depths
   • It removes the language-model output vocabulary