Đầu cảm ứng trong bài kiểm tra máy biến áp

Câu trả lời và giải thích xuất hiện khi bạn làm bài kiểm tra.

1. Về cơ bản, đầu cảm ứng thực hiện quy tắc gì?
   • Dự đoán mã thông báo thường xuyên nhất trong ngôn ngữ
   • Luôn sao chép mã thông báo trước đó không thay đổi
   • Xáo trộn ngẫu nhiên các mã thông báo ngữ cảnh
   • Xem [A][B] trước đó, sau đó vào [A] dự đoán lại [B]
2. What capability was linked to induction-head behavior in the cited 2022 study?
   • In-context learning in the examined models, with broader large-model claims framed as hypotheses
   • A proof that every form of reasoning uses only one identical circuit
   • Changing the tokenizer vocabulary during every prompt
   • Permanent weight updates whenever a repeated token appears
3. 'Đầu mã thông báo trước' đóng vai trò gì trong mạch cảm ứng?
   • Nó tạo ra softmax cuối cùng
   • Nó loại bỏ thông tin vị trí
   • Nó sao chép thông tin trước đó của mỗi mã thông báo để việc khớp có thể xảy ra
   • Nó bình thường hóa trọng lượng chú ý
4. Có bao nhiêu đầu chú ý thường tham gia vào mạch cảm ứng chuẩn?
   • Chính xác là một
   • Hai, được sáng tác trên các lớp
   • Hàng trăm trong một lớp
   • Không; nó chỉ được chuyển tiếp
5. What training relationship did the induction-head study report in the models it examined?
   • Head formation coincided with changes in loss behavior and increased in-context learning
   • All heads were fully formed before any training
   • Induction behavior could only appear after every parameter was frozen forever
   • The same exact training transition must occur in every future model
6. Đầu cảm ứng sẽ xử lý trực tiếp nhiệm vụ nào nhất?
   • Tính toán gradient số
   • Nén trọng lượng của mô hình
   • Mã hóa lời nhắc đầu vào
   • Lặp lại một chuỗi bằng cách sao chép những gì theo sau các mã thông báo phù hợp trước đó
7. What roles do query-key matching and the output-value path play in the canonical induction circuit?
   • Query-key computations generate the final text filename; output-value computations train the tokenizer
   • Query-key computations select the matching context position; output-value computations promote the token information there
   • Both paths only count the total number of context words
   • The output-value path selects a position without any attention pattern
8. Does a demonstrated two-head induction circuit prove that every large-model in-context task uses that mechanism alone?
   • Yes; every architecture and prompt has already been causally tested
   • Yes; no other network computation can influence a prediction
   • No; the wider explanation remains a hypothesis needing model- and task-specific evidence
   • Only the number of parameters determines whether the proof is universal