क्या है? संरक्षित डिकोडिंग?

एक डिकोडिंग रणनीति जो केवल k के सबसे संभावित अगले टोकन से नमूने लेती है।

एक डिकोडिंग रणनीति जो सबसे छोटे टोकन सेट से नमूने लेती है जिनकी संभावनाओं का योग पी होता है।

तर्क जो मॉडल आउटपुट को दृढ़ता से टाइप की गई, मशीन-उपयोग योग्य संरचनाओं में मान्य और परिवर्तित करता है।

एक अनुमान त्वरण विधि जहां एक छोटा ड्राफ्ट मॉडल टोकन प्रस्तावित करता है जिसे एक बड़ा मॉडल समानांतर में सत्यापित करता है।

एक डिकोडिंग सेटिंग जो लूप को कम करने के लिए मॉडल द्वारा पहले ही उत्पादित टोकन की संभावना को कम कर देती है।

एक डिकोडिंग सेटिंग जो टोकन की संभावना को आनुपातिक रूप से कम कर देती है कि वे अब तक कितनी बार दिखाई दिए हैं।