Gruplandırılmış Sorgu Dikkat Testi

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. Gruplandırılmış Sorgu Dikkatinde, bir grup sorgu kafası arasında neler paylaşılır?
   • Anahtar ve değer başlıkları
   • Yalnızca çıktı projeksiyonu
   • Giriş yerleştirmeleri
   • Öğrenme oranı
2. GQA en iyi şekilde hangi iki uç arasında bir orta yol olarak tanımlanır?
   • Evrişim ve dikkat
   • Tam çok kafalı dikkat ve çoklu sorgu dikkati
   • FP32 ve FP8 hassasiyeti
   • Yalnızca kodlayıcı ve yalnızca kod çözücü modelleri
3. GQA öncelikli olarak çıkarımın hangi kısmını daha ucuz hale getirir?
   • İstemin simgeleştirilmesi
   • Eğitim kaybı hesaplaması
   • KV önbellek ve üretim sırasındaki bant genişliği
   • Kelime dağarcığı üzerinde son softmax
4. Bir modelde 32 sorgu başlığı ve 8 KV grubu varsa KV önbelleği kabaca hangi faktörle azalır?
   • Yaklaşık 32x
   • Yaklaşık 2x
   • Azaltma yok
   • Yaklaşık 4x
5. What quality/speed tradeoff did the GQA paper report in its experiments?
   • Quality close to MHA with inference speed closer to MQA
   • Lower quality and slower inference than both
   • Exactly the same latency and quality for every model
   • A result only on image classification
6. Mevcut çok kafalı modeller sıklıkla GQA'ya nasıl dönüştürülüyor?
   • Tüm dikkat katmanlarını silerek
   • Mevcut kontrol noktasından kısa bir 'eğitim' adımıyla
   • Farklı bir tokenizer'a geçerek
   • Hiçbir şekilde dönüştürülemezler
7. Which task families did the GQA paper evaluate?
   • Image segmentation and object detection
   • Speech synthesis and speaker verification
   • Language modeling and machine translation
   • Molecular generation and toxicity prediction
8. How much of the original pretraining compute did the GQA paper report using for its uptraining recipe?
   • Yaklaşık %50
   • About 100%
   • No additional training compute
   • Yaklaşık %5