एआई शब्दावली शब्द

उपयोग-आधारित बिलिंग क्या है?

परिभाषा

मूल्य निर्धारण जहां लागत एपीआई कॉल, टोकन, अनुमान समय या उपभोग गणना के साथ मापी जाती है।

अनुमान-समय गणनाप्रत्येक प्रतिक्रिया उत्पन्न करते समय उपभोग की गई प्रसंस्करण शक्ति की मात्रा।परीक्षण-समय गणनागुणवत्ता या तर्क में सुधार के लिए प्रतिक्रिया निर्माण के दौरान अतिरिक्त अनुमान गणना का उपयोग किया जाता है।सट्टा डिकोडिंगएक अनुमान त्वरण विधि जहां एक छोटा ड्राफ्ट मॉडल टोकन प्रस्तावित करता है जिसे एक बड़ा मॉडल समानांतर में सत्यापित करता है।स्लाइडिंग विंडो ध्यानएक ध्यान पैटर्न जहां प्रत्येक टोकन गणना को कम करने के लिए केवल पास के टोकन की एक निश्चित आकार की विंडो पर ध्यान केंद्रित करता है।अनुमानरनटाइम चरण जहां एक प्रशिक्षित मॉडल भविष्यवाणियां या आउटपुट उत्पन्न करता है।आरएजी (पुनर्प्राप्ति-संवर्धित पीढ़ी)एक विधि जो बाहरी ज्ञान को पुनः प्राप्त करती है और उसे अनुमान के समय पीढ़ी में फीड करती है।

हमारी निःशुल्क मार्गदर्शिकाओं में और जानें

यह भी देखें