चिनचिला कंप्यूट-इष्टतम प्रशिक्षण
चिनचिला 2022 डीपमाइंड ने पाया कि अधिकांश बड़े भाषा मॉडलों को बुरी तरह से प्रशिक्षित किया गया था: एक निश्चित गणना बजट के लिए आपको मापदंडों और डेटा को लगभग समान रूप से मापना चाहिए, न कि केवल एक बड़ा मॉडल बनाना चाहिए।
सिंहावलोकन
It reshaped how the industry balances model size against training data.
गहरा गोता
डीपमाइंड के चिनचिला पेपर ने स्केलिंग पर दोबारा गौर किया और गणना-इष्टतम संतुलन खोजने के लिए 400 से अधिक मॉडलों को प्रशिक्षित किया। मुख्य नियम: मॉडल का आकार और प्रशिक्षण टोकन लॉकस्टेप में बढ़ने चाहिए, प्रति पैरामीटर लगभग 20 प्रशिक्षण टोकन। इसे साबित करने के लिए, उन्होंने 1.4 ट्रिलियन टोकन पर 70-बिलियन-पैरामीटर मॉडल चिंचिला को प्रशिक्षित किया, उसी गणना का उपयोग करके 280-बिलियन-पैरामीटर गोफर को बहुत कम टोकन पर प्रशिक्षित किया गया। चिनचिला, चार गुना छोटी होने के बावजूद, लगभग हर बेंचमार्क पर गोफर, जीपीटी-3 और अन्य दिग्गजों से बेहतर प्रदर्शन करती है। पाठ ने पहले के OpenAI निष्कर्ष को पलट दिया, जिसमें डेटा के बजाय आकार को प्राथमिकता दी गई थी, यह दर्शाता है कि कई प्रमुख मॉडल बहुत बड़े और बहुत अधिक डेटा-भूखे होने के कारण प्रदर्शन को खराब कर रहे थे।
तकनीकी अंतर्दृष्टि
चिनचिला फिट हानि L(N,D) = E + A·N^(-α) + B·D^(-β) के रूप में, α और β दोनों 0.34 के करीब है, जिसका अर्थ है कि पैरामीटर और डेटा लगभग सममित रूप से योगदान करते हैं। एक निश्चित गणना बाधा (ट्रांसफॉर्मर के लिए गणना ≈ 6·N·D) के तहत इसे अनुकूलित करने से समान-स्केलिंग परिणाम प्राप्त होता है। एक छोटा, डेटा-समृद्ध मॉडल भी अनुमान पर चलाने के लिए सस्ता है, इसलिए इसका लाभ केवल प्रशिक्षण ही नहीं, बल्कि तैनाती में भी होता है।
सामरिक प्रभाव
स्पष्ट निर्णय
यह आपको स्पष्ट तकनीकी दावों को मार्केटिंग भाषा से अलग करने में मदद करता है।
लागत और बजट
आप पैसा या समय खर्च करने से पहले बेहतर कार्यान्वयन संबंधी प्रश्न पूछ सकते हैं।
टीम और वर्कफ़्लो
साझा समझ वाली टीमें बेहतर उत्पाद, नीति और सीखने के निर्णय लेती हैं।
चिनचिला कंप्यूट-इष्टतम प्रशिक्षण का भविष्य
लामा 3 जैसे आधुनिक मॉडल जानबूझकर चिनचिला के 20-टोकन-प्रति-पैरामीटर अनुपात से बहुत आगे निकल जाते हैं, अनुमान को सस्ता बनाने के लिए खरबों टोकन पर छोटे मॉडलों को प्रशिक्षित करते हैं, और उप-इष्टतम प्रशिक्षण गणना को स्वीकार करते हैं। जैसे-जैसे अच्छा डेटा दुर्लभ होता जा रहा है, बार-बार होने वाले युगों, सिंथेटिक डेटा और गुणवत्ता फ़िल्टरिंग में रुचि बढ़ रही है। चिनचिला संदर्भ बिंदु बना हुआ है, लेकिन इष्टतम केवल एक बार के प्रशिक्षण बजट पर नहीं, बल्कि आजीवन अनुमान लागत पर निर्भर करता है।
वास्तविक विश्व कार्यान्वयन
समान बजट के लिए बहुत कम डेटा पर 30 बिलियन मॉडल के बजाय 2 ट्रिलियन टोकन पर 7 बिलियन पैरामीटर मॉडल को प्रशिक्षित करना चुनना।
अनुमान है कि 10-बिलियन-पैरामीटर मॉडल को गणना-इष्टतम मीठे स्थान पर पहुंचने के लिए लगभग 200 बिलियन टोकन की आवश्यकता होती है।
एक बड़े प्रतिद्वंद्वी की गुणवत्ता से मेल खाते हुए प्रति-क्वेरी अनुमान लागत को कम करने के लिए एक छोटे तैनात मॉडल को उचित ठहराना।
किसी मौजूदा मॉडल का ऑडिट करना और यह निष्कर्ष निकालना कि इसे प्रशिक्षित किया गया था, फिर पैरामीटर बढ़ाने के बजाय लंबे समय तक प्रशिक्षण चलाने की योजना बनाना।
जोखिम और रेलिंग
अलग-अलग टीमें एक ही शब्द का अलग-अलग इस्तेमाल कर सकती हैं, इसलिए दायरे को पहले ही परिभाषित कर लें।
बेंचमार्क मजबूत दिख सकते हैं जबकि वास्तविक दुनिया का प्रदर्शन असमान है।
डेटा गुणवत्ता और मूल्यांकन योजनाओं की अनदेखी अक्सर नाजुक परिणाम पैदा करती है।
कार्यान्वयन रोडमैप
आपको जिस परिणाम की आवश्यकता है उसकी सरल भाषा में परिभाषा से शुरुआत करें।
परीक्षण से पहले एक सफलता मीट्रिक और एक विफलता स्थिति चुनें।
प्रतिनिधि डेटा के साथ एक छोटा पायलट चलाएँ, न कि एक परिष्कृत डेमो सेट।
दस्तावेज़ जहां चिनचिला कंप्यूट-इष्टतम प्रशिक्षण मदद करता है और जहां सरल तरीके बेहतर हैं।
अन्वेषण करते रहें
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Chinchilla Compute-Optimal Training quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
अगली गाइड
परीक्षण-समय प्रशिक्षण
अक्सर पूछे जाने वाले प्रश्नों
What is Chinchilla Compute-Optimal Training?
चिनचिला 2022 डीपमाइंड ने पाया कि अधिकांश बड़े भाषा मॉडलों को बुरी तरह से प्रशिक्षित किया गया था: एक निश्चित गणना बजट के लिए आपको मापदंडों और डेटा को लगभग समान रूप से मापना चाहिए, न कि केवल एक बड़ा मॉडल बनाना चाहिए। इसने इस बात को फिर से आकार दिया कि उद्योग प्रशिक्षण डेटा के मुकाबले मॉडल आकार को कैसे संतुलित करता है।
गणना-इष्टतम प्रशिक्षण के लिए चिनचिला का प्रसिद्ध नियम क्या है?
डीपमाइंड ने पाया कि किसी दिए गए गणना बजट के लिए पैरामीटर और टोकन को प्रति पैरामीटर लगभग 20 टोकन पर एक साथ स्केल करना चाहिए।
70बी-पैरामीटर चिनचिला की तुलना 280बी-पैरामीटर गोफर से कैसे की गई?
समान गणना के साथ कहीं अधिक टोकन पर प्रशिक्षित, चिनचिला ने अधिकांश बेंचमार्क में बहुत बड़े गोफर को हराया।
चिनचिला पेपर ने पहले के बड़े मॉडलों के बारे में कौन सी प्रमुख समस्या उजागर की?
GPT-3 और गोफ़र जैसे मॉडल अपने प्रशिक्षण डेटा के सापेक्ष बहुत बड़े थे, जिससे प्रदर्शन अवास्तविक हो गया।
चिनचिला नियम 10-बिलियन-पैरामीटर मॉडल के लिए मोटे तौर पर कितने टोकन का सुझाव देता है?
प्रति पैरामीटर 20 टोकन पर, 10 बिलियन पैरामीटर का तात्पर्य लगभग 200 बिलियन प्रशिक्षण टोकन से है।
प्रशिक्षण दक्षता के अलावा, एक छोटा, डेटा-समृद्ध मॉडल तैनाती में आकर्षक क्यों है?
कम मापदंडों का मतलब प्रति-क्वेरी कम गणना है, इसलिए हर बार मॉडल का उपयोग करने पर बचत होती है।