Bài kiểm tra có liên kết hướng dẫn · Cứng Cấp độ
Câu đố giải mã Lookahead
Xem lại các nhánh xem trước, các bước lặp Jacobi, n-gram được lưu trong bộ nhớ đệm, xác minh mục tiêu và sự cân bằng điện toán đằng sau việc giảm các bước giải mã tuần tự.
Câu hỏi 1 của 8
Điều gì phân biệt giải mã nhìn trước với giải mã suy đoán tiêu chuẩn?
Xem trước mọi câu hỏi8 câu hỏi
Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.
- Điều gì phân biệt giải mã nhìn trước với giải mã suy đoán tiêu chuẩn?
- Nó đòi hỏi hai mô hình được đào tạo riêng biệt
- Nó không sử dụng mô hình dự thảo riêng biệt - chỉ sử dụng mô hình đích
- Nó chỉ hoạt động cho các tác vụ dịch thuật
- Nó lượng tử hóa vĩnh viễn mô hình
- Phương pháp số nào làm cơ sở cho việc giải mã lookahead?
- Độ dốc gốc
- Biến đổi Fourier
- K-nghĩa là phân cụm
- Phép lặp Jacobi (điểm cố định)
- Hai nhánh song song chạy ở mỗi bước là gì?
- Một nhánh đào tạo và một nhánh kiểm tra
- Một bộ mã hóa và một bộ giải mã
- Nhánh nhìn trước và nhánh xác minh
- Mô hình dự thảo và mô hình mục tiêu
- Những gì được lưu trữ trong 'nhóm n-gram'?
- Các chuỗi nhiều mã thông báo hợp lý được nhìn thấy trong các lần lặp song song
- Lịch sử trò chuyện của người dùng
- Trọng lượng mô hình
- Mặt nạ chú ý
- What supports correctness when lookahead decoding commits a guessed n-gram prefix?
- Using the same model makes every unverified guess correct
- Every candidate in the n-gram pool must be committed
- Verification against the target's greedy predictions or an appropriate distribution-preserving sampling procedure
- A larger window proves the generated statements are true
- What resource tradeoff is important when deploying lookahead decoding on already busy hardware?
- Candidate generation uses no compute or memory
- Additional parallel work may offset the benefit of fewer sequential passes
- Every larger window must lower wall-clock latency
- The target weights are automatically compressed to zero size
- Why should a lookahead candidate remain provisional until target verification?
- Parallel iteration guesses can differ from the target's valid continuation
- Every cached n-gram has already been proven correct by storage alone
- The lookahead branch permanently changes the target weights
- Verification is needed only to determine the output filename
- Does a standard training-free lookahead iteration update the target model's learned weights?
- Yes; each candidate applies a gradient update to every parameter
- Yes; verified n-grams become a new training dataset immediately
- Only the tokenizer's vocabulary is retrained at every step
- No; it changes candidate token states and verifies outputs while keeping the model weights fixed