सीखें समाचार टूल्स नौकरियां मिशन

एआई शब्दावली शब्द

सट्टा डिकोडिंग क्या है?

परिभाषा

एक अनुमान त्वरण विधि जहां एक छोटा ड्राफ्ट मॉडल टोकन प्रस्तावित करता है जिसे एक बड़ा मॉडल समानांतर में सत्यापित करता है।

संपूर्ण AI शब्दावली ब्राउज़ करें सभी निःशुल्क एआई गाइडों का अन्वेषण करें

उपयोग-आधारित बिलिंगमूल्य निर्धारण जहां लागत एपीआई कॉल, टोकन, अनुमान समय या उपभोग गणना के साथ मापी जाती है।स्लाइडिंग विंडो ध्यानएक ध्यान पैटर्न जहां प्रत्येक टोकन गणना को कम करने के लिए केवल पास के टोकन की एक निश्चित आकार की विंडो पर ध्यान केंद्रित करता है।अनुमानरनटाइम चरण जहां एक प्रशिक्षित मॉडल भविष्यवाणियां या आउटपुट उत्पन्न करता है।आरएजी (पुनर्प्राप्ति-संवर्धित पीढ़ी)एक विधि जो बाहरी ज्ञान को पुनः प्राप्त करती है और उसे अनुमान के समय पीढ़ी में फीड करती है।टॉप-के नमूनाकरणएक डिकोडिंग रणनीति जो केवल k के सबसे संभावित अगले टोकन से नमूने लेती है।आसुत मॉडलएक छोटे मॉडल को अनुमान के समय कम गणना का उपयोग करते हुए बड़े मॉडल के व्यवहार की नकल करने के लिए प्रशिक्षित किया गया।

हमारी निःशुल्क मार्गदर्शिकाओं में और जानें

Contrastive Decoding Minimum Bayes Risk Decoding Speculative Sampling Verification Self-Consistency Decoding

यह भी देखें

Zero Data Retention KV Cache MCP (Model Context Protocol)Trust Calibration Agentic Loop Test-Time Compute ReAct Structured Output