तंत्रिका - तंत्र

एक बुनियादी कृत्रिम न्यूरॉन वजन का उपयोग करके इनपुट मानों को जोड़ता है, एक पूर्वाग्रह जोड़ता है, और एक सक्रियण फ़ंक्शन लागू करता है। वज़न नियंत्रित करता है कि प्रत्येक इनपुट कितनी मजबूती से योगदान देता है। पूर्वाग्रह परिणाम बदल देता है। एक गैर-रेखीय सक्रियण परतों को उन संबंधों का प्रतिनिधित्व करने देता है जो विशुद्ध रूप से रैखिक संचालन का एक समूह नहीं कर सकता। उदाहरण के लिए, ReLU सक्रियण नकारात्मक इनपुट के लिए शून्य लौटाता है और सकारात्मक इनपुट को अपरिवर्तित छोड़ देता है। नेटवर्क विभिन्न परतों में विभिन्न सक्रियणों का उपयोग कर सकते हैं। कार्य के अनुरूप एक आउटपुट परत चुनी जाती है: एक संख्यात्मक भविष्यवाणी की व्याख्या संभावित श्रेणियों के स्कोर के समान नहीं की जाती है। प्रशिक्षण के दौरान, एक हानि फ़ंक्शन आउटपुट की तुलना वांछित परिणाम से करता है। पैरामीटर हानि को कैसे प्रभावित करते हैं इसकी गणना करने के लिए बैकप्रॉपैगेशन श्रृंखला नियम का उपयोग करता है। फिर एक ऑप्टिमाइज़र पैरामीटर्स को अपडेट करने के लिए उस जानकारी का उपयोग करता है। बैकप्रॉपैगेशन ग्रेडिएंट की गणना करता है; यह कोई गारंटी नहीं है कि मॉडल सर्वोत्तम संभव समाधान ढूंढेगा या अच्छी तरह से सामान्यीकरण करेगा। मस्तिष्क सादृश्य सीमित है. कृत्रिम न्यूरॉन्स गणितीय अमूर्तताएं हैं, और एक सफल नेटवर्क मानव-जैसे दिमाग का प्रमाण नहीं है। एक बड़ा नेटवर्क जटिल रिश्तों को मॉडल कर सकता है, लेकिन इसे चलाने में अधिक लागत आ सकती है, अप्रासंगिक पैटर्न फिट हो सकता है, या स्थितियां बदलने पर विफल हो सकता है। इसकी तुलना एक सरल आधार रेखा से करें और प्रशिक्षण डेटा के बाहर के उदाहरणों पर परीक्षण करें।