गाइड से जुड़ी प्रश्नोत्तरी · कठिन स्तर

तंत्रिका स्पर्शरेखा कर्नेल सिद्धांत प्रश्नोत्तरी

परीक्षण करें कि न्यूरल टैंगेंट कर्नेल एक रैखिक सीमा में अनंत-चौड़ाई वाले नेटवर्क प्रशिक्षण को कर्नेल विधियों और फ़ंक्शन-स्पेस डायनेमिक्स से कैसे जोड़ता है।

प्रश्न 1 का 8

अनंत-चौड़ाई सीमा में, प्रशिक्षण के दौरान तंत्रिका स्पर्शरेखा कर्नेल कैसे व्यवहार करता है?

प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न

जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।

  1. अनंत-चौड़ाई सीमा में, प्रशिक्षण के दौरान तंत्रिका स्पर्शरेखा कर्नेल कैसे व्यवहार करता है?
    • यह मूलतः स्थिर रहता है
    • यह हर कदम पर तेजी से बदलता है
    • वह शून्य हो जाता है
    • यह तेजी से बढ़ता है
  2. गणितीय रूप से एनटीके क्या है?
    • हानि का हेस्सियन
    • दो इनपुट के लिए नेटवर्क के पैरामीटर ग्रेडिएंट का आंतरिक उत्पाद
    • आउटपुट का सॉफ्टमैक्स
    • वज़न का विचरण
  3. न्यूरल टेन्जेंट कर्नेल की शुरुआत किसने की?
    • हिंटन और सलाखुतदीनोव
    • लेकुन और बेंगियो
    • जैकोट, गेब्रियल, और हॉन्गलर (2018)
    • वासवानी और सहकर्मी
  4. 'आलसी प्रशिक्षण' व्यवस्था क्या है?
    • जब प्रशिक्षण रोक दिया जाता है
    • जब अनुकूलक कोई गति का उपयोग नहीं करता है
    • जब डेटा धीरे-धीरे फीड किया जाता है
    • जब पैरामीटर मुश्किल से आरंभीकरण से आगे बढ़ते हैं और नेटवर्क रैखिक रूप से व्यवहार करता है
  5. वास्तविक नेटवर्क के लिए एनटीके सिद्धांत की एक प्रमुख सीमा यह है कि इसमें निम्नलिखित बातें शामिल नहीं हैं:
    • परिमित-चौड़ाई वाले नेटवर्क में फ़ीचर सीखना
    • क्रमिक अवतरण की भूमिका
    • वज़न का अस्तित्व
    • प्रशिक्षण डेटा का उपयोग
  6. चूँकि NTK प्रशिक्षण को कर्नेल प्रतिगमन तक कम कर देता है, तो क्या संभव हो जाता है?
    • किसी भी डेटा की आवश्यकता को समाप्त करना
    • पूर्ण प्रशिक्षण के बिना प्रशिक्षित आउटपुट की भविष्यवाणी करना
    • मापदंडों के बिना चल रहे मॉडल
    • हमेशा शून्य परीक्षण त्रुटि की गारंटी
  7. In the infinite-width limit, what probabilistic model are neural networks equivalent to at initialization?
    • एक छिपा हुआ मार्कोव मॉडल
    • एक निर्णय वृक्ष समूह
    • A Gaussian process
    • A finite-state game controller
  8. For least-squares regression in the NTK limit, what mathematical form does the network function's training evolution follow?
    • A discrete rule that randomly changes labels
    • A decision tree that grows one branch per epoch
    • A nonlinear search over audio frames
    • A linear differential equation in function space