Sinirsel Teğet Çekirdek Teorisi Sınavı

Testi çözdüğünüzde cevaplar ve açıklamalar görünür.

1. Sonsuz genişlik sınırında Nöral Teğet Çekirdeği eğitim sırasında nasıl davranır?
   • Esasen sabit kalır
   • Her adımda hızla değişiyor
   • Sıfır olur
   • Katlanarak büyüyor
2. Matematiksel olarak NTK nedir?
   • Kaybın Hessian'ı
   • İki giriş için ağın parametre gradyanlarının iç çarpımı
   • Çıkışların softmax'ı
   • Ağırlıkların varyansı
3. Nöral Teğet Çekirdeği kim tanıttı?
   • Hinton ve Salahutdinov
   • LeCun ve Bengio
   • Jacot, Gabriel ve Hongler (2018)
   • Vaswani ve meslektaşları
4. 'Tembel eğitim' rejimi nedir?
   • Eğitim duraklatıldığında
   • Optimize edici momentum kullanmadığında
   • Veriler yavaşça beslendiğinde
   • Parametreler başlatmadan çok az hareket ettiğinde ve ağ doğrusal davrandığında
5. NTK teorisinin gerçek ağlar için önemli bir sınırlaması, aşağıdaki hususları gözden kaçırmasıdır:
   • Sonlu genişlikli ağlarda özellik öğrenimi
   • Degrade inişin rolü
   • Ağırlıkların varlığı
   • Eğitim verilerinin kullanımı
6. NTK eğitimi çekirdek regresyonuna indirgediği için ne mümkün olur?
   • Herhangi bir veriye olan ihtiyacın ortadan kaldırılması
   • Tam eğitim olmadan eğitilmiş çıktıyı tahmin etme
   • Modelleri parametresiz çalıştırma
   • Her zaman sıfır test hatasını garanti etmek
7. In the infinite-width limit, what probabilistic model are neural networks equivalent to at initialization?
   • Gizli bir Markov modeli
   • Bir karar ağacı topluluğu
   • A Gaussian process
   • A finite-state game controller
8. For least-squares regression in the NTK limit, what mathematical form does the network function's training evolution follow?
   • A discrete rule that randomly changes labels
   • A decision tree that grows one branch per epoch
   • A nonlinear search over audio frames
   • A linear differential equation in function space