Maswali yanayounganishwa na mwongozo · Ngumu Kiwango

Maswali ya Usikivu ya Mstari wa RWKV

Gundua lango la kupokea la RWKV, uozo wa wakati, ujirudiaji wa ufunguo/thamani, hali ya ukubwa usiobadilika, na fomu ya mafunzo sambamba ya Transformer.

Njia za mwongozo zinazohusianaTahadhari ya Mstari wa Rwkv
Swali 1 ya 8

Je, kichwa cha habari cha RWKV ni nini?

Hakiki kila swali8 maswali

Majibu na maelezo huonekana unapojibu maswali.

  1. Je, kichwa cha habari cha RWKV ni nini?
    • Hufanya mazoezi kama Transformer lakini huendesha makisio kama RNN
    • Inaweza tu kufunzwa kwenye picha
    • Inahitaji akiba ya ufunguo wa quadratic
    • Haiwezi kusawazishwa hata kidogo
  2. Je, herufi katika RWKV zinawakilisha nini?
    • Soma, Andika, Weka, Thibitisha
    • Mapokezi, Uzito, Ufunguo, Thamani
    • Inarudiwa, Wide, Kernel, Vector
    • Nasibu, Uzito, Maarifa, Tofauti
  3. Je, RWKV huwekaje kumbukumbu mara kwa mara wakati wa uzalishaji?
    • Kwa kufuta uzani wa mfano
    • Kwa kuhifadhi kila ishara kwenye diski
    • Kwa kubeba hali ndogo iliyofichwa ya saizi isiyobadilika mbele badala ya kache inayokua
    • Kwa kupunguza matokeo kwa tokeni kumi
  4. Uzito wa kuoza kwa wakati (W) una jukumu gani?
    • Inaweka kiwango cha kujifunza
    • Inahesabu idadi ya ishara
    • Inachagua lugha ya pato
    • Hudhibiti jinsi maelezo ya zamani yanavyopoteza ushawishi kwa haraka
  5. Ikilinganishwa na umakini wa hali ya juu, nini urudiaji wa uzingatiaji wa mstari wa RWKV huepuka?
    • Ulinganisho wa tokeni wa jozi zote za quadratic
    • Matumizi yoyote ya funguo na maadili
    • Haja ya kupachika
    • Matumizi ya mitandao ya neva
  6. Kwa nini RWKV inafaa haswa kwa kizazi cha utiririshaji?
    • Kwa sababu lazima ione ingizo zima kabla ya matokeo yoyote
    • Kwa sababu kila ishara mpya inategemea tu hali ya saizi isiyobadilika ya hapo awali
    • Kwa sababu haiwezi kutoa maandishi
    • Kwa sababu inahitaji nguzo ya GPU kwa kila ishara
  7. In the guide’s RWKV description, what does the receptance gate control?
    • How many image patches are generated
    • The size of the model vocabulary
    • How much of the accumulated state is read out
    • The amount of GPU memory available
  8. What training property does RWKV retain from Transformers?
    • Full quadratic key-value caching at inference
    • A separate generator and discriminator
    • A fixed top-k token router in every layer
    • Parallelizable training across sequence positions