Útmutatóhoz kapcsolódó kvíz · Kemény Szint
Neurális tangens kernelelméleti kvíz
Tesztelje, hogy a Neural Tangent Kernel hogyan kapcsolja össze a végtelen szélességű hálózati képzést a kernelmetódusokkal és a függvénytér dinamikájával egy linearizált korlátban.
kérdés 1 -ból 8
A végtelen szélességű korlátban hogyan viselkedik a Neurális Tangens Kernel a képzés során?
Tekintse meg az összes kérdést8 kérdéseket
A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.
- A végtelen szélességű korlátban hogyan viselkedik a Neurális Tangens Kernel a képzés során?
- Lényegében állandó marad
- Minden lépésnél gyorsan változik
- Nullává válik
- Exponenciálisan növekszik
- Mi az NTK matematikailag?
- A veszteség hesseni
- A hálózat két bemeneti paraméter-gradiensének belső szorzata
- A kimenetek softmax-ja
- A súlyok szórása
- Ki vezette be a Neurális Tangens Kernelt?
- Hinton és Szalakhutdinov
- LeCun és Bengio
- Jacot, Gabriel és Hongler (2018)
- Vaswani és munkatársai
- Mi az a „lusta edzés” rendszer?
- Amikor az edzés szünetel
- Amikor az optimalizáló nem használ lendületet
- Amikor az adatbevitel lassan történik
- Amikor a paraméterek alig mozdulnak el az inicializálástól, és a hálózat lineárisan viselkedik
- Az NTK-elmélet egyik fő korlátja a valódi hálózatokra vonatkozóan, hogy hiányzik:
- Funkciótanulás véges szélességű hálózatokban
- A gradiens süllyedés szerepe
- A súlyok létezése
- Az edzésadatok felhasználása
- Mivel az NTK a képzést a kernel regresszióra redukálja, mi válik lehetségessé?
- Minden adat szükségességének kiküszöbölése
- A betanított teljesítmény előrejelzése teljes képzés nélkül
- Futó modellek paraméterek nélkül
- Mindig garantált a nulla teszthiba
- A végtelen szélességű korlátban milyen valószínűségi modellel ekvivalensek a neurális hálózatok inicializáláskor?
- Egy rejtett Markov modell
- Döntési fa együttes
- Gauss-féle folyamat
- Véges állapotú játékvezérlő
- Az NTK határérték legkisebb négyzetes regressziója esetén milyen matematikai formát követ a hálózati függvény képzési evolúciója?
- Egy diszkrét szabály, amely véletlenszerűen változtatja a címkéket
- Döntési fa, amely korszakonként egy ágat növeszt
- Nemlineáris keresés hangkockák között
- Lineáris differenciálegyenlet függvénytérben