एआई शब्दावली शब्द

टॉप-के नमूनाकरण क्या है?

परिभाषा

एक डिकोडिंग रणनीति जो केवल k के सबसे संभावित अगले टोकन से नमूने लेती है।

टॉप-पी (नाभिक) नमूनाकरणएक डिकोडिंग रणनीति जो सबसे छोटे टोकन सेट से नमूने लेती है जिनकी संभावनाओं का योग पी होता है।संरक्षित डिकोडिंगएक पीढ़ी की रणनीति जो आउटपुट टोकन को वैध संरचनाओं या नीति-अनुपालक विकल्पों तक सीमित करती है।फ्यू-शॉट लर्निंगकेवल कुछ उदाहरणों से व्यवहार सीखना या अपनाना।Perplexityएक भाषा-मॉडल मीट्रिक यह मापता है कि मॉडल अगले टोकन के द्वारा कितना आश्चर्यचकित है।सट्टा डिकोडिंगएक अनुमान त्वरण विधि जहां एक छोटा ड्राफ्ट मॉडल टोकन प्रस्तावित करता है जिसे एक बड़ा मॉडल समानांतर में सत्यापित करता है।केवी कैशपिछले टोकन से संग्रहीत कुंजी और मूल्य टेंसर जो ट्रांसफार्मर को पिछले ध्यान की पुनर्गणना किए बिना नए टोकन उत्पन्न करने देते हैं।

हमारी निःशुल्क मार्गदर्शिकाओं में और जानें

यह भी देखें