बुनियादी गाइड
एलएलएम को अक्षरों की गिनती करने में संघर्ष क्यों करना पड़ता है?
बड़े भाषा मॉडलों को अक्षर गिनने में कठिनाई होती है क्योंकि वे एक समय में एक अक्षर का पाठ नहीं पढ़ते हैं।
इस गाइड को सुनेंएआई-नैरेटेड · ~3 min
इस पृष्ठ पर4 मिनट पढ़ें
सिंहावलोकन
वे टोकन पढ़ते हैं, जो वर्णों के टुकड़े होते हैं, इसलिए किसी शब्द के अंदर के अलग-अलग अक्षर अक्सर मॉडल को कभी भी सीधे दिखाई नहीं देते हैं। यह एक तथ्य वर्तनी, गिनती, उलटफेर और तुकबंदी से संबंधित अजीब गलतियों के एक पूरे परिवार की व्याख्या करता है, और यह आपको बताता है कि उनसे कैसे निपटना है।
गहरा गोता
इससे पहले कि कोई भाषा मॉडल किसी पाठ को देखे, एक टोकननाइज़र उसे टोकन में विभाजित कर देता है। अधिकांश आधुनिक टोकननाइज़र बाइट जोड़ी एन्कोडिंग जैसी एक विधि का उपयोग करते हैं, जो पाठ के बड़े हिस्से से सामान्य वर्ण अनुक्रम सीखता है। बार-बार आने वाले शब्द अक्सर एक ही टोकन बन जाते हैं, और दुर्लभ शब्द कुछ टुकड़ों में विभाजित हो जाते हैं। फिर मॉडल प्रत्येक टोकन को एक संख्या के रूप में प्राप्त करता है और इसे एक वेक्टर में बदल देता है। यह कभी भी उस टोकन के अंदर के अक्षरों को अलग-अलग इनपुट के रूप में प्राप्त नहीं करता है। इसलिए जब आप पूछते हैं कि 'स्ट्रॉबेरी' में कितने आर हैं, तो मॉडल दस अक्षरों को स्कैन नहीं कर रहा है। यह शायद दो या तीन टुकड़े देखता है, और उसे प्रशिक्षण के दौरान सीखे गए पैटर्न से याद रखना होता है कि उन टुकड़ों में कौन से अक्षर हैं। वह ज्ञान मौजूद है लेकिन यह अप्रत्यक्ष और अस्पष्ट है, जैसे कि पूछा जा रहा है कि किसी शब्द में ई अक्षर कितनी बार आता है जिसे आपने केवल चित्र के रूप में देखा है। स्ट्रॉबेरी प्रश्न 2024 में व्यापक रूप से साझा किया जाने वाला उदाहरण बन गया क्योंकि इसका उत्तर लोगों के लिए स्पष्ट है और चैटबॉट्स के लिए आश्चर्यजनक रूप से कठिन है। यही कारण संबंधित त्रुटियाँ उत्पन्न करता है: ज़ोर से बोलने के लिए कहने पर गलत वर्तनी, शब्दों को गलत तरीके से उलटना, एक्रोस्टिक्स या लिपोग्राम जैसे अक्षर-आधारित बाधाओं को विफल करना, और लंबाई सीमा के लिए अक्षरों की गलत गणना करना। टोकननाइज़र के बीच सटीक विभाजन अलग-अलग होते हैं, इसलिए एक मॉडल को दिया गया शब्द सही मिल सकता है जबकि दूसरा विफल हो जाता है। एक आम ग़लतफ़हमी यह है कि इससे पता चलता है कि मॉडल तर्क नहीं कर सकते या बस लापरवाह हैं। सीमा अधिकतर इनपुट प्रारूप में है, सामान्य तर्क में नहीं। जब किसी मॉडल को पहले शब्द का उच्चारण करने के लिए प्रेरित किया जाता है, तो प्रत्येक अक्षर अपना स्वयं का टोकन बन जाता है, और गिनती करना बहुत आसान काम हो जाता है। नए तर्क मॉडल अक्सर यह वर्तनी चरण स्वयं ही करते हैं, यही एक कारण है कि वे इन प्रश्नों को अधिक बार सही पाते हैं। किसी भी चीज़ के लिए जहां सटीकता मायने रखती है, कोड का एक छोटा टुकड़ा चलाना अभी भी सबसे विश्वसनीय तरीका है।
वास्तविक विश्व कार्यान्वयन
यह पूछे जाने पर कि 'स्ट्रॉबेरी' में अक्षर r कितनी बार आता है, एक चैटबॉट तीन के बजाय दो उत्तर देता है, क्योंकि यह शब्द दस अलग-अलग अक्षरों के बजाय कुछ बहु-अक्षर खंडों के रूप में मॉडल तक पहुंचता है।
एक शिक्षक एक मॉडल को एक वाक्य लिखने के लिए कहता है जहां प्रत्येक शब्द अक्षर एस से शुरू होता है, और यह उन शब्दों में फिसल जाता है जो ऐसा नहीं करते हैं, क्योंकि उसे प्रत्येक शब्द को देखने के बजाय उसके पहले अक्षर का अनुमान लगाना होता है।
एक डेवलपर 'एनसाइक्लोपीडिया' शब्द को पीछे की ओर लिखने के लिए कहता है और उसे बदले हुए या गायब अक्षरों वाला एक संस्करण मिलता है; मॉडल को पहले प्रति पंक्ति एक अक्षर सूचीबद्ध करने के लिए कहना, फिर सूची को उल्टा करना, उसे ठीक करना।
एक पहेली ऐप को शब्द गेम के लिए सटीक अक्षर गणना की आवश्यकता होती है, इसलिए यह सामान्य कोड की एक पंक्ति के साथ उनकी गणना करता है और केवल संकेत लिखने के लिए मॉडल का उपयोग करता है।
एलएलएम को अक्षरों को गिनने में संघर्ष क्यों करना पड़ता है इसका भविष्य
शोधकर्ता ऐसे मॉडल की खोज कर रहे हैं जो सीधे बाइट्स या वर्णों पर काम करते हैं, और हाइब्रिड डिज़ाइन जो बाइट्स को गतिशील रूप से समूहित करते हैं, जो चरित्र-स्तर के कार्यों को और अधिक स्वाभाविक बना सकते हैं। इन दृष्टिकोणों में ट्रेडऑफ़ हैं, क्योंकि लंबे इनपुट अनुक्रमों की गणना पर अधिक लागत आती है। इस बीच, तर्कशील मॉडल जो चरण दर चरण शब्दों का उच्चारण करते हैं और मॉडल जो कोड टूल कहते हैं, पहले से ही व्यवहार में इनमें से कई त्रुटियों को कम करते हैं। समय के साथ कम शर्मनाक अक्षर-गिनती विफलताओं की उम्मीद करना उचित है, लेकिन उन कार्यों के लिए जिनमें सटीक अक्षर गणना की आवश्यकता होती है, किसी मॉडल के रिकॉल पर भरोसा करने के बजाय कोड का उपयोग करना संभवतः अच्छा अभ्यास रहेगा।
इसे व्यवहार में लाना
यह क्यों मायने रखता है?
- स्पष्ट निर्णय. यह आपको स्पष्ट तकनीकी दावों को मार्केटिंग भाषा से अलग करने में मदद करता है।
- लागत और बजट. आप पैसा या समय खर्च करने से पहले बेहतर कार्यान्वयन संबंधी प्रश्न पूछ सकते हैं।
- टीम और वर्कफ़्लो. साझा समझ वाली टीमें बेहतर उत्पाद, नीति और सीखने के निर्णय लेती हैं।
का ध्यान रखें
- अलग-अलग टीमें एक ही शब्द का अलग-अलग इस्तेमाल कर सकती हैं, इसलिए दायरे को पहले ही परिभाषित कर लें।
- बेंचमार्क मजबूत दिख सकते हैं जबकि वास्तविक दुनिया का प्रदर्शन असमान है।
- डेटा गुणवत्ता और मूल्यांकन योजनाओं की अनदेखी अक्सर नाजुक परिणाम पैदा करती है।
अगले चरण
- आपको जिस परिणाम की आवश्यकता है उसकी सरल भाषा में परिभाषा से शुरुआत करें।
- परीक्षण से पहले एक सफलता मीट्रिक और एक विफलता स्थिति चुनें।
- प्रतिनिधि डेटा के साथ एक छोटा पायलट चलाएँ, न कि एक परिष्कृत डेमो सेट।
- दस्तावेज़ जहां एलएलएम को अक्षरों की गिनती करने में कठिनाई क्यों होती है मदद करता है और जहां सरल तरीके बेहतर हैं।
अन्वेषण करते रहें
मुफ़्त न्यूज़लेटर
दैनिक एआई ब्रीफिंग प्राप्त करें
हर कार्यदिवस की सुबह तीन सत्यापित एआई कहानियाँ, सादे अंग्रेजी में लिखी गईं। हमेशा के लिए मुफ़्त, कोई विज्ञापन नहीं।
प्रत्येक सप्ताह के दिन एक ईमेल. एक क्लिक में सदस्यता समाप्त करें. हम आपका पता कभी नहीं बेचते या साझा नहीं करते।
स्वयं की जांच करो
Take the Why LLMs Struggle to Count Letters quiz
प्रत्येक उत्तर पर त्वरित प्रतिक्रिया, और पाठ्यक्रम पास करने के बाद एक सत्यापन योग्य आईडी के साथ एक साझा करने योग्य प्रमाणपत्र।
निःशुल्क एआई शिक्षा का समर्थन करें। AI Understanding एक 501(c)(3) गैर-लाभकारी संस्था है - कोई विज्ञापन नहीं, कोई पेवॉल नहीं। दान करें
अक्सर पूछे जाने वाले प्रश्नों
एलएलएम को अक्षरों को गिनने में संघर्ष क्यों करना पड़ता है?
बड़े भाषा मॉडलों को अक्षर गिनने में कठिनाई होती है क्योंकि वे एक समय में एक अक्षर का पाठ नहीं पढ़ते हैं। वे टोकन पढ़ते हैं, जो वर्णों के टुकड़े होते हैं, इसलिए किसी शब्द के अंदर के अलग-अलग अक्षर अक्सर मॉडल को कभी भी सीधे दिखाई नहीं देते हैं। यह एक तथ्य वर्तनी, गिनती, उलटफेर और तुकबंदी से संबंधित अजीब गलतियों के एक पूरे परिवार की व्याख्या करता है, और यह आपको बताता है कि उनसे कैसे निपटना है।
भाषा मॉडल द्वारा किसी शब्द में अक्षरों की गलत गिनती का मुख्य कारण क्या है?
मॉडल को टोकन प्राप्त होते हैं, जिनमें अक्सर कई अक्षर होते हैं। टोकन के अंदर के अक्षर अलग-अलग इनपुट नहीं हैं, इसलिए मॉडल को उन्हें अप्रत्यक्ष रूप से याद रखना होगा।
एक टोकनाइज़र पाठ के एक टुकड़े से क्या उत्पन्न करता है?
टोकननाइज़र पाठ को एक निश्चित शब्दावली से टुकड़ों में विभाजित करता है और प्रत्येक को एक पूर्णांक आईडी पर मैप करता है, जिसे बाद में एक वेक्टर में बदल दिया जाता है।
कौन सा त्वरित परिवर्तन किसी मॉडल को अक्षरों की सही गणना करने में सबसे अधिक मदद करता है?
शब्द को एस-टी-आर-ए-डब्ल्यू जैसे विभाजकों के साथ लिखने से आम तौर पर प्रत्येक अक्षर अपने स्वयं के टोकन में आ जाता है, जिससे गिनती करना बहुत आसान काम हो जाता है।
बाइट जोड़ी एन्कोडिंग क्या करके अपनी शब्दावली बनाती है?
BPE बाइट्स या वर्णों से शुरू होता है और सबसे लगातार आसन्न जोड़ी को मर्ज करता रहता है, इसलिए सामान्य स्ट्रिंग एकल टोकन बन जाते हैं।
एक मॉडल द्वारा 'स्ट्रॉबेरी' और 'स्ट्रॉबेरी' को अलग-अलग तरीके से क्यों संभाला जा सकता है?
टोकनाइज़र में अक्सर टोकन में अग्रणी स्थान और केस शामिल होते हैं, इसलिए छोटे सतह परिवर्तन अलग-अलग टोकन विभाजन उत्पन्न कर सकते हैं।
सीखते रहो
संबंधित मार्गदर्शिकाएँ
इस विषय के लिए अधिक मार्गदर्शिकाएँ चुनी गईं