पुनरावृत्ति दंड और डिकोडिंग नियंत्रण

डिकोडिंग नियंत्रण वे घुंडी हैं जो यह तय करते हैं कि एक भाषा मॉडल अपने संभाव्यता वितरण से प्रत्येक अगले शब्द को कैसे चुनता है। तापमान, टॉप-पी और पुनरावृत्ति दंड जैसी सेटिंग्स आकार देती हैं कि क्या आउटपुट रचनात्मक, केंद्रित, या लूप में फंसा हुआ लगता है।

उच्च तापमान संभाव्यता वितरण को समतल कर देता है, जिससे कम संभावना वाले टोकन अधिक प्रतिस्पर्धी हो जाते हैं और आउटपुट अधिक विविध और अप्रत्याशित हो जाता है।

टॉप-पी शीर्ष टोकन के सबसे छोटे समूह का चयन करता है जिसकी संचयी संभावना सीमा तक पहुंचती है (उदाहरण के लिए, 0.9), इसलिए उम्मीदवार पूल संदर्भ के अनुसार अनुकूलित होता है।

दोहराव दंड संभावनाओं में परिवर्तित होने से पहले पहले से उपयोग किए गए टोकन के लॉगिट (कच्चे स्कोर) को संशोधित करता है, जिससे उनके चयन की संभावना कम हो जाती है।

OpenAI की एपीआई गाइड आवृत्ति दंड को पूर्व टोकन गणना के आनुपातिक और उपस्थिति दंड को पहले से ही नमूना किए गए टोकन के लिए एकमुश्त समायोजन के रूप में वर्णित करती है।

शून्य के करीब का तापमान नमूनाकरण की यादृच्छिकता को कम करता है और आउटपुट को अधिक नियतात्मक बनाता है; यह गारंटी नहीं देता कि चयनित कोड सही है।