तकनीकी गाइड
प्रश्न-सीखना
क्यू-लर्निंग एक सुदृढीकरण सीखने वाला एल्गोरिदम है जो परीक्षण और त्रुटि के माध्यम से प्रत्येक कदम के मूल्य को धीरे-धीरे सीखकर एक एजेंट को सिखाता है कि कौन से कार्य सर्वोत्तम परिणाम देते हैं।
इस गाइड को सुनेंएआई-नैरेटेड · ~2 min
इस पृष्ठ पर2 मिनट लाल
सिंहावलोकन
यह मायने रखता है क्योंकि यह अपने पर्यावरण के नियमों को बताए बिना भी इष्टतम व्यवहार पा सकता है।
गहरा गोता
क्यू-लर्निंग क्यू(एस, ए) नामक एक फ़ंक्शन सीखता है: राज्य 'एस' में 'ए' कार्रवाई करने और उसके बाद बेहतर ढंग से कार्य करने का अपेक्षित दीर्घकालिक इनाम। एजेंट कुछ भी नहीं जानना शुरू कर देता है, कार्यों की कोशिश करता है, और पुरस्कार देखता है। प्रत्येक चरण के बाद यह अपने क्यू-वैल्यू अनुमान को अभी प्राप्त इनाम और अगले राज्य से अपेक्षित सर्वोत्तम छूट वाले भविष्य के मूल्य की ओर बढ़ाता है। महत्वपूर्ण रूप से, यह 'ऑफ-पॉलिसी' और 'मॉडल-मुक्त' है: यह बेतरतीब ढंग से खोज करते हुए सर्वोत्तम नीति सीख सकता है, और इसे दुनिया कैसे बदलती है, इसके मॉडल की कभी आवश्यकता नहीं होती है। प्रत्येक राज्य-कार्य युग्म के पर्याप्त अन्वेषण को देखते हुए, क्यू-मूल्य इष्टतम मूल्यों में परिवर्तित हो जाते हैं, और किसी भी राज्य में सबसे अच्छी कार्रवाई केवल उच्चतम क्यू वाली होती है।
वास्तविक विश्व कार्यान्वयन
अटारी गेम-प्लेइंग एजेंट (डीपमाइंड के डीक्यूएन) स्क्रीन पिक्सल से सीधे ब्रेकआउट और पोंग खेलना सीख रहे हैं
कुल वाहन प्रतीक्षा समय को कम करने के लिए चौराहों पर ट्रैफिक-लाइट समय को अनुकूलित करना
ग्रिड या भूलभुलैया के माध्यम से रोबोट नेविगेशन जहां रोबोट सबसे छोटा इनाम-अधिकतम पथ सीखता है
गतिशील मूल्य निर्धारण और इन्वेंट्री निर्णय जहां एक एजेंट सीखता है कि कौन से कार्य दीर्घकालिक लाभ को अधिकतम करते हैं
क्यू-लर्निंग का भविष्य
क्लासिक सारणीबद्ध क्यू-लर्निंग तब संघर्ष करती है जब एक तालिका में संग्रहीत करने के लिए बहुत सारे राज्य होते हैं। प्रमुख दिशा इसे तंत्रिका नेटवर्क के साथ संयोजित करना है, जैसे कि डीप क्यू-नेटवर्क (डीक्यूएन) में, जो पिक्सेल जैसे कच्चे इनपुट से क्यू-मान का अनुमान लगाता है। अनुभव रीप्ले, लक्ष्य नेटवर्क और डबल डीक्यूएन और डिस्ट्रीब्यूशनल क्यू-लर्निंग जैसे वेरिएंट के साथ इसे स्थिर करने पर अनुसंधान जारी है जो ओवरएस्टीमेशन पूर्वाग्रह को कम करता है और एकल औसत के बजाय पूर्ण रिटर्न वितरण का प्रतिनिधित्व करता है।
इसे व्यवहार में लाना
यह क्यों मायने रखता है?
- लागत और बजट. वास्तुकला संबंधी निर्णय वर्षों तक प्रदर्शन और परिचालन लागत को संचालित करते हैं।
- स्पष्ट निर्णय. तकनीकी शिक्षा टीमों को सही स्टैक चुनने में मदद करती है, न कि केवल नवीनतम स्टैक चुनने में।
- गुणवत्ता नियंत्रण. बेहतर इंजीनियरिंग विकल्प उत्पादन में विश्वसनीयता की घटनाओं को कम करते हैं।
का ध्यान रखें
- एक बेंचमार्क को अनुकूलित करने से व्यापक सिस्टम कमजोरियों को छुपाया जा सकता है।
- बुनियादी ढांचे और रखरखाव की लागत को अक्सर कम करके आंका जाता है।
- जैसे-जैसे सिस्टम अधिक जटिल होते जाएंगे सुरक्षा और अवलोकन संबंधी अंतराल बढ़ सकते हैं।
अगले चरण
- कार्यान्वयन से पहले विलंबता, गुणवत्ता और लागत लक्ष्य परिभाषित करें।
- यथार्थवादी लोड और डेटा स्थितियों के तहत बेंचमार्क।
- त्रुटियों, बहाव और उपयोगकर्ता प्रभाव के लिए उपकरण निगरानी।
- स्केलिंग से पहले रोलबैक और घटना प्रतिक्रिया पथ तैयार करें।
अन्वेषण करते रहें
मुफ़्त न्यूज़लेटर
दैनिक एआई ब्रीफिंग प्राप्त करें
हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।
प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।
स्वयं की जांच करो
Take the Q-Learning quiz
प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।
निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें
अक्सर पूछे जाने वाले प्रश्नों
क्यू-लर्निंग क्या है?
क्यू-लर्निंग एक सुदृढीकरण सीखने वाला एल्गोरिदम है जो परीक्षण और त्रुटि के माध्यम से प्रत्येक कदम के मूल्य को धीरे-धीरे सीखकर एक एजेंट को सिखाता है कि कौन से कार्य सर्वोत्तम परिणाम देते हैं। यह मायने रखता है क्योंकि यह अपने पर्यावरण के नियमों को बताए बिना भी इष्टतम व्यवहार पा सकता है।
Q-मान Q(s, a) क्या दर्शाता है?
क्यू(एस, ए) राज्य में कार्रवाई करने और उसके बाद इष्टतम व्यवहार करने से कुल छूट वाले भविष्य के इनाम का अनुमान लगाता है, न कि केवल तत्काल इनाम का।
Q-लर्निंग को 'ऑफ़-पॉलिसी' क्यों बताया गया है?
अगले कार्यों पर अधिकतम का मतलब है कि क्यू-लर्निंग लालची इष्टतम नीति का मूल्य सीखता है, भले ही एजेंट एक अलग व्यवहार नीति के साथ खोज करता है।
अद्यतन नियम में, छूट कारक गामा क्या नियंत्रित करता है?
गामा (0 और 1 के बीच) भविष्य के पुरस्कारों में छूट देता है; 1 के पास का मान एजेंट को दूरदर्शी बनाता है, 0 के पास का मान उसे अदूरदर्शी बनाता है।
क्यू-लर्निंग में अस्थायी-अंतर (टीडी) त्रुटि क्या है?
टीडी त्रुटि नए लक्ष्य अनुमान (इनाम प्लस सर्वोत्तम रियायती भविष्य मूल्य) और पुराने क्यू अनुमान के बीच का अंतर है; अद्यतन इस अंतर को कम करता है।
सादा सारणीबद्ध क्यू-लर्निंग पिक्सेल से वीडियो गेम जैसी बड़ी समस्याओं से क्यों जूझता है?
एक लुकअप टेबल को प्रति राज्य-कार्य युग्म में एक प्रविष्टि की आवश्यकता होती है, जो तब संभव नहीं है जब राज्यों की संख्या अरबों में हो, जो DQN जैसे तंत्रिका-नेटवर्क सन्निकटन को प्रेरित करता है।
सीखते रहो
संबंधित मार्गदर्शिकाएँ
इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं