गाइड से जुड़ी प्रश्नोत्तरी · मध्यम स्तर
मैक्स टोकन और स्टॉप सीक्वेंस क्विज़
अधिकतम टोकन और संदर्भ विंडो के बीच अंतर का परीक्षण करता है, स्टॉप अनुक्रम कैसे काम करता है, और ट्रंकेशन को पकड़ने के लिए अंतिम कारणों को कैसे पढ़ा जाए।
प्रश्न 1 का 8
अधिकतम टोकन की सीमा क्या है?
प्रत्येक प्रश्न का पूर्वावलोकन करें8 प्रश्न
जैसे ही आप प्रश्नोत्तरी लेते हैं उत्तर और स्पष्टीकरण दिखाई देते हैं।
- अधिकतम टोकन की सीमा क्या है?
- संदर्भ विंडो में इनपुट प्लस आउटपुट के कुल टोकन
- मॉडल एक ही प्रतिक्रिया में टोकन की संख्या उत्पन्न कर सकता है
- प्रति मिनट अनुरोधों की संख्या
- मॉडल की शब्दावली का आकार
- आपकी कॉल OpenAI के एपीआई में 'लंबाई' का अंतिम कारण लौटाती है। क्या हुआ?
- मॉडल ने अपना उत्तर स्वाभाविक रूप से समाप्त किया
- एक स्टॉप सीक्वेंस का मिलान किया गया
- आउटपुट अधिकतम टोकन सीमा तक पहुंच गया और कट गया
- मॉडल ने टूल कॉल का अनुरोध किया
- कौन सा Anthropic stop_reason इंगित करता है कि मॉडल ने निर्णय लिया कि उसका उत्तर पूर्ण था?
- अंत_मोड़
- max_tokens
- रुकें_अनुक्रम
- उपकरण_उपयोग
- कम अधिकतम टोकन मान सेट करने से उत्तर संक्षिप्त क्यों नहीं हो जाते?
- एपीआई कम मूल्यों पर ध्यान नहीं देता
- मॉडल हमेशा की तरह लिखता है और सीमा तक पहुंचने पर इसे काट दिया जाता है
- इससे मॉडल अपने उत्तर का पहला भाग छोड़ देता है
- यह केवल इनपुट टोकन को प्रभावित करता है
- क्या मिलान किए गए स्टॉप अनुक्रम को सामान्यतः लौटाए गए पाठ में शामिल किया गया है?
- हाँ, हमेशा अंत में
- हाँ, लेकिन केवल स्ट्रीमिंग करते समय
- नहीं, इसे आम तौर पर आउटपुट से बाहर रखा जाता है
- केवल यदि यह एकल वर्ण है
- एक तर्क मॉडल एक खाली दृश्यमान उत्तर देता है। गाइड में वर्णित संभावित कारण क्या है?
- रुकने का क्रम बहुत लंबा था
- छिपे हुए तर्क टोकन आउटपुट सीमा का उपयोग करते हैं
- संदर्भ विंडो बहुत बड़ी थी
- प्रॉम्प्ट लोअरकेस में लिखा गया था
- संरचित उत्तर ब्लॉक के बाद समाप्त करने के लिए कौन सा स्टॉप अनुक्रम सबसे अच्छा विकल्प है?
- द
- एक ही स्थान
- </उत्तर>
- .
- किसी प्रतिक्रिया को स्ट्रीम करते समय, आपके कोड को कब यह तय करना चाहिए कि आउटपुट छोटा कर दिया गया है या नहीं?
- पहला हिस्सा आने के बाद
- जब अंतिम कारण धारा के अंत में आता है
- अनुरोध भेजने से पहले
- स्ट्रीमिंग प्रतिक्रियाओं को छोटा नहीं किया जा सकता