Útmutatóhoz kapcsolódó kvíz · Kemény Szint

Neurális tangens kernelelméleti kvíz

Tesztelje, hogy a Neural Tangent Kernel hogyan kapcsolja össze a végtelen szélességű hálózati képzést a kernelmetódusokkal és a függvénytér dinamikájával egy linearizált korlátban.

Kapcsolódó útmutató utakNeurális tangens kernel elmélet
kérdés 1 -ból 8

A végtelen szélességű korlátban hogyan viselkedik a Neurális Tangens Kernel a képzés során?

Tekintse meg az összes kérdést8 kérdéseket

A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.

  1. A végtelen szélességű korlátban hogyan viselkedik a Neurális Tangens Kernel a képzés során?
    • Lényegében állandó marad
    • Minden lépésnél gyorsan változik
    • Nullává válik
    • Exponenciálisan növekszik
  2. Mi az NTK matematikailag?
    • A veszteség hesseni
    • A hálózat két bemeneti paraméter-gradiensének belső szorzata
    • A kimenetek softmax-ja
    • A súlyok szórása
  3. Ki vezette be a Neurális Tangens Kernelt?
    • Hinton és Szalakhutdinov
    • LeCun és Bengio
    • Jacot, Gabriel és Hongler (2018)
    • Vaswani és munkatársai
  4. Mi az a „lusta edzés” rendszer?
    • Amikor az edzés szünetel
    • Amikor az optimalizáló nem használ lendületet
    • Amikor az adatbevitel lassan történik
    • Amikor a paraméterek alig mozdulnak el az inicializálástól, és a hálózat lineárisan viselkedik
  5. Az NTK-elmélet egyik fő korlátja a valódi hálózatokra vonatkozóan, hogy hiányzik:
    • Funkciótanulás véges szélességű hálózatokban
    • A gradiens süllyedés szerepe
    • A súlyok létezése
    • Az edzésadatok felhasználása
  6. Mivel az NTK a képzést a kernel regresszióra redukálja, mi válik lehetségessé?
    • Minden adat szükségességének kiküszöbölése
    • A betanított teljesítmény előrejelzése teljes képzés nélkül
    • Futó modellek paraméterek nélkül
    • Mindig garantált a nulla teszthiba
  7. A végtelen szélességű korlátban milyen valószínűségi modellel ekvivalensek a neurális hálózatok inicializáláskor?
    • Egy rejtett Markov modell
    • Döntési fa együttes
    • Gauss-féle folyamat
    • Véges állapotú játékvezérlő
  8. Az NTK határérték legkisebb négyzetes regressziója esetén milyen matematikai formát követ a hálózati függvény képzési evolúciója?
    • Egy diszkrét szabály, amely véletlenszerűen változtatja a címkéket
    • Döntési fa, amely korszakonként egy ágat növeszt
    • Nemlineáris keresés hangkockák között
    • Lineáris differenciálegyenlet függvénytérben