Transformatörlerde İndüksiyon Kafaları Testi

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. Bir indüksiyon kafası esasen hangi kuralı uygular?
   • Dilde en sık kullanılan belirteci tahmin edin
   • Her zaman önceki jetonu değiştirmeden kopyala
   • Bağlam belirteçlerini rastgele karıştır
   • Daha önce [A][B]'ye bakın, ardından [A]'da tekrar [B]'yi tahmin edin
2. What capability was linked to induction-head behavior in the cited 2022 study?
   • In-context learning in the examined models, with broader large-model claims framed as hypotheses
   • A proof that every form of reasoning uses only one identical circuit
   • Changing the tokenizer vocabulary during every prompt
   • Permanent weight updates whenever a repeated token appears
3. 'Önceki jeton kafası' indüksiyon devresinde nasıl bir rol oynuyor?
   • Nihai softmax'ı üretir
   • Konum bilgisini kaldırır
   • Eşleşmenin gerçekleşebilmesi için her tokenin öncül bilgilerini ileriye doğru kopyalar
   • Dikkat ağırlıklarını normalleştirir
4. Kanonik tümevarım devresinde tipik olarak kaç tane dikkat kafası yer alır?
   • Kesinlikle bir
   • Katmanlardan oluşan iki
   • Yüzlercesi tek bir katmanda
   • Sıfır; yalnızca ileri beslemelidir
5. What training relationship did the induction-head study report in the models it examined?
   • Head formation coincided with changes in loss behavior and increased in-context learning
   • All heads were fully formed before any training
   • Induction behavior could only appear after every parameter was frozen forever
   • The same exact training transition must occur in every future model
6. Bir indüksiyon kafası en doğrudan hangi görevi yerine getirir?
   • Sayısal bir eğimin hesaplanması
   • Modelin ağırlıklarının sıkıştırılması
   • Giriş istemini şifreleme
   • Daha önce eşleşen belirteçleri takip edenleri kopyalayarak bir diziyi tekrarlamak
7. What roles do query-key matching and the output-value path play in the canonical induction circuit?
   • Query-key computations generate the final text filename; output-value computations train the tokenizer
   • Query-key computations select the matching context position; output-value computations promote the token information there
   • Both paths only count the total number of context words
   • The output-value path selects a position without any attention pattern
8. Does a demonstrated two-head induction circuit prove that every large-model in-context task uses that mechanism alone?
   • Yes; every architecture and prompt has already been causally tested
   • Yes; no other network computation can influence a prediction
   • No; the wider explanation remains a hypothesis needing model- and task-specific evidence
   • Only the number of parameters determines whether the proof is universal