ऊर्जा आधारित मॉडल
ऊर्जा-आधारित मॉडल (ईबीएम) एक स्केलर 'ऊर्जा' फ़ंक्शन सीखते हैं जो प्रशंसनीय डेटा को कम मान और अविश्वसनीय डेटा को उच्च मान प्रदान करता है, इसे सामान्य करने में आसान होने के लिए मजबूर किए बिना संभाव्यता वितरण को परिभाषित करता है।
सिंहावलोकन
This flexibility makes them a unifying lens for much of machine learning, from classifiers to generative models.
गहरा गोता
एक ऊर्जा-आधारित मॉडल बोल्ट्ज़मैन (गिब्स) वितरण के माध्यम से एक संभावना को परिभाषित करता है: पी (एक्स) एक्सप (-ई (एक्स)) के लिए आनुपातिक है, जहां ई (एक्स) एक सीखा हुआ ऊर्जा फ़ंक्शन है, जो अक्सर एक तंत्रिका नेटवर्क होता है। प्रशिक्षण वास्तविक डेटा की ऊर्जा को कम कर देता है और बाकी सभी चीज़ों की ऊर्जा को बढ़ा देता है। पकड़ विभाजन फ़ंक्शन Z है, जो सभी संभावित इनपुट पर exp(-E(x)) का योग या अभिन्न अंग है, जिसकी गणना करना आमतौर पर कठिन होता है। इसलिए ईबीएम को सन्निकटन के साथ प्रशिक्षित किया जाता है: विपरीत विचलन, स्कोर मिलान, या शोर-विपरीत अनुमान, और लैंग्विन गतिशीलता जैसे एमसीएमसी तरीकों के माध्यम से नमूना लिया जाता है जो ऊर्जा ढाल का पालन करते हैं। क्लासिक उदाहरणों में हॉपफ़ील्ड नेटवर्क और प्रतिबंधित बोल्ट्ज़मैन मशीनें शामिल हैं; आधुनिक कार्य ईबीएम को प्रसार मॉडल, जीएएन और यहां तक कि ऊर्जा कार्यों के रूप में पुनर्व्याख्याित सामान्य क्लासिफायर से जोड़ता है।
तकनीकी अंतर्दृष्टि
मॉडल संभाव्यता p(x) = exp(-E(x)) / Z निर्दिष्ट करता है। क्योंकि Z (सभी इनपुट पर सामान्यीकरणकर्ता) कठिन है, आप शायद ही कभी सीधे संभावना की गणना करते हैं। इसके बजाय, स्कोर मिलान और लैंग्विन सैंपलिंग का फायदा यह होता है कि लॉग पी(एक्स) का ग्रेडिएंट ई(एक्स) के ग्रेडिएंट के बराबर होता है, इसलिए ज़ेड बाहर हो जाता है। लैंग्विन डायनेमिक्स फिर बार-बार ऊर्जा में एक्स डाउनहिल को धक्का देकर और शोर जोड़कर, कम-ऊर्जा, उच्च-संभावना वाले क्षेत्रों की ओर चलकर नमूने उत्पन्न करता है।
सामरिक प्रभाव
लागत और बजट
वास्तुकला संबंधी निर्णय वर्षों तक प्रदर्शन और परिचालन लागत को संचालित करते हैं।
स्पष्ट निर्णय
तकनीकी शिक्षा टीमों को सही स्टैक चुनने में मदद करती है, न कि केवल नवीनतम स्टैक चुनने में।
गुणवत्ता नियंत्रण
बेहतर इंजीनियरिंग विकल्प उत्पादन में विश्वसनीयता की घटनाओं को कम करते हैं।
ऊर्जा-आधारित मॉडल का भविष्य
ईबीएम नए सिरे से रुचि का आनंद ले रहे हैं क्योंकि वे प्रसार मॉडल, स्कोर-आधारित जेनरेटिव मॉडल और भेदभावपूर्ण नेटवर्क के बीच एक सैद्धांतिक पुल प्रदान करते हैं, एक प्रसार मॉडल जो स्कोर सीखता है वह अनिवार्य रूप से एक ऊर्जा ढाल है। अधिक हाइब्रिड प्रणालियों की अपेक्षा करें जो लचीली, संयोजन योग्य बाधाओं (उत्पादन को चलाने के लिए कई ऊर्जाओं का संयोजन), एमसीएमसी की तुलना में बेहतर और तेज़ नमूनाकरण, और तर्क और योजना में अनुप्रयोगों के लिए ऊर्जा कार्यों का उपयोग करते हैं जहां 'सबसे कम-ऊर्जा कॉन्फ़िगरेशन ढूंढें' स्वाभाविक रूप से अनुकूलन और बाधा संतुष्टि व्यक्त करते हैं।
वास्तविक विश्व कार्यान्वयन
हॉपफ़ील्ड नेटवर्क सहयोगी मेमोरी के रूप में कार्य करते हैं जो कम-ऊर्जा स्थिति में व्यवस्थित होकर शोर या आंशिक इनपुट से संग्रहीत पैटर्न को याद करते हैं
प्रतिबंधित बोल्ट्ज़मैन मशीनें ऐतिहासिक रूप से सहयोगात्मक फ़िल्टरिंग और गहरे विश्वास नेटवर्क के पूर्व-प्रशिक्षण के लिए उपयोग की जाती हैं
अंशांकन, मजबूती और आउट-ऑफ-डिस्ट्रीब्यूशन डिटेक्शन में सुधार के लिए एक मानक क्लासिफायरियर को ऊर्जा-आधारित मॉडल (जेईएम दृष्टिकोण) के रूप में दोबारा व्याख्या करना
संरचित भविष्यवाणी और बाधा संतुष्टि, जहां कई परस्पर क्रियाशील चर (जैसे, मुद्रा अनुमान या लेआउट) पर सीखी गई ऊर्जा को कम करके समाधान पाए जाते हैं।
जोखिम और रेलिंग
एक बेंचमार्क को अनुकूलित करने से व्यापक सिस्टम कमजोरियों को छुपाया जा सकता है।
बुनियादी ढांचे और रखरखाव की लागत को अक्सर कम करके आंका जाता है।
जैसे-जैसे सिस्टम अधिक जटिल होते जाएंगे सुरक्षा और अवलोकन संबंधी अंतराल बढ़ सकते हैं।
कार्यान्वयन रोडमैप
कार्यान्वयन से पहले विलंबता, गुणवत्ता और लागत लक्ष्य परिभाषित करें।
यथार्थवादी लोड और डेटा स्थितियों के तहत बेंचमार्क।
त्रुटियों, बहाव और उपयोगकर्ता प्रभाव के लिए उपकरण निगरानी।
स्केलिंग से पहले रोलबैक और घटना प्रतिक्रिया पथ तैयार करें।
अन्वेषण करते रहें
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Energy-Based Models quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
अगली गाइड
स्कोर-आधारित जनरेटिव मॉडल
अक्सर पूछे जाने वाले प्रश्नों
What is Energy-Based Models?
ऊर्जा-आधारित मॉडल (ईबीएम) एक स्केलर 'ऊर्जा' फ़ंक्शन सीखते हैं जो प्रशंसनीय डेटा को कम मान और अविश्वसनीय डेटा को उच्च मान प्रदान करता है, इसे सामान्य करने में आसान होने के लिए मजबूर किए बिना संभाव्यता वितरण को परिभाषित करता है। यह लचीलापन उन्हें क्लासिफायर से लेकर जेनरेटिव मॉडल तक, अधिकांश मशीन लर्निंग के लिए एक एकीकृत लेंस बनाता है।
ऊर्जा-आधारित मॉडल में, ऊर्जा एक डेटा बिंदु की संभावना से कैसे संबंधित है?
बोल्ट्ज़मैन वितरण के माध्यम से, p(x) exp(-E(x)) के समानुपाती होता है, इसलिए प्रशंसनीय डेटा को कम ऊर्जा और उच्च संभावना दी जाती है।
ऊर्जा-आधारित मॉडलों का प्रशिक्षण कठिन क्यों है?
Z की गणना करने के लिए संपूर्ण इनपुट स्थान पर exp(-E(x)) को जोड़ने या एकीकृत करने की आवश्यकता होती है, जो आम तौर पर संभव नहीं है, जिससे अनुमानित प्रशिक्षण विधियों को मजबूर होना पड़ता है।
ईबीएम से नमूने निकालने के लिए आमतौर पर किस नमूनाकरण विधि का उपयोग किया जाता है?
लैंग्विन गतिकी पुनरावृत्त रूप से नमूनों को ऊर्जा प्रवणता के साथ नीचे की ओर ले जाती है, जबकि शोर जोड़ते हुए, कम-ऊर्जा क्षेत्रों की ओर अभिसरण करती है।
स्कोर मिलान जैसी विधियाँ विभाजन फ़ंक्शन Z की गणना करने से क्यों बच सकती हैं?
चूँकि Z, x पर निर्भर नहीं करता है, x के संबंध में लॉग p(x) को विभेदित करने से यह रद्द हो जाता है, केवल ऊर्जा प्रवणता बचती है, जो ट्रैक्टेबल है।
इनमें से कौन सा क्लासिक ऊर्जा-आधारित मॉडल है?
हॉपफील्ड नेटवर्क एक प्रारंभिक ऊर्जा-आधारित मॉडल है जो पैटर्न को कम-ऊर्जा वाले राज्यों के रूप में संग्रहीत करता है और ऊर्जा को कम करके उन्हें याद करता है।