Maswali ya Kuzingatia Maswali mengi

Majibu na maelezo huonekana unapojibu maswali.

1. Uangalifu wa Maswali mengi unashiriki nini kwenye vichwa vyote vya umakini?
   • Seti moja ya funguo na maadili
   • Makadirio ya swala
   • Kiwango cha joto cha softmax
   • Uzani wa safu ya pato
2. Je, ni kikwazo gani cha msingi ambacho MQA hushughulikia wakati wa uzalishaji wa kujitegemea?
   • Upitishaji wa kukokotoa sehemu ya kuelea
   • Bandwidth ya kumbukumbu kutoka kwa kupakia kashe ya KV
   • Idadi ya vipindi vya mafunzo
   • Saizi ya msamiati wa ishara
3. MQA inapunguza kashe ya KV kwa takriban sababu gani?
   • Kwa urefu wa mlolongo
   • Kwa ukubwa wa kundi
   • Kwa idadi ya vichwa vya tahadhari
   • Haibadilishi saizi ya kashe ya KV
4. Je, ni biashara gani kuu ya kutumia MQA?
   • Maoni ya polepole zaidi
   • Haiwezi tena kutumia vichwa vingi hata kidogo
   • Inahitaji data zaidi ya mafunzo
   • Kushuka kwa kiasi kwa ubora wa mfano
5. Ni lahaja gani kati ya uzingatiaji wa kawaida wa vichwa vingi na MQA?
   • Umakini wa Maswali ya Kikundi
   • Sliding-Dirisha Makini
   • Kiwango cha Tahadhari
   • Usikivu Mdogo
6. Nani alipendekeza Makini ya Maswali mengi?
   • Geoffrey Hinton
   • Noam Shazeer
   • Yann LeCun
   • Andrej Karpathy
7. In Multi-Query Attention, what remains separate for each attention head?
   • The shared key projection
   • The shared value projection
   • The query projection
   • The token sequence itself
8. How does Grouped-Query Attention differ from standard MQA?
   • It shares query projections but gives every head separate keys and values
   • It removes attention and replaces it with a recurrent layer
   • It groups output vocabulary tokens instead of attention heads
   • It shares keys and values within several groups of query heads rather than across all heads at once