Mirostat Perplexity کنٹرول کوئز

جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔

1. What does Mirostat try to control during generation?
   • A target level of output perplexity or surprise
   • ماڈل پیرامیٹرز کی تعداد
   • The training dataset size
   • GPU درجہ حرارت
2. Mirostat بنیادی طور پر معیاری top-k یا top-p نمونے لینے سے کیسے مختلف ہے؟
   • یہ کبھی بھی بے ترتیبی کا استعمال نہیں کرتا ہے۔
   • یہ فکسڈ کٹ آف کی بجائے فیڈ بیک کا استعمال کرتے ہوئے تراش کو متحرک طور پر ایڈجسٹ کرتا ہے۔
   • یہ صرف تصاویر پر کام کرتا ہے۔
   • اس کے لیے ماڈل کی دوبارہ تربیت کی ضرورت ہے۔
3. Mirostat میں، پیرامیٹر eta کیا کردار ادا کرتا ہے؟
   • یہ الفاظ کا سائز متعین کرتا ہے۔
   • یہ آؤٹ پٹ کی لمبائی کو ٹھیک کرتا ہے۔
   • یہ سیکھنے کی شرح ہے جو کنٹرول کرتی ہے کہ حد کتنی تیزی سے اپناتی ہے۔
   • یہ نمونے لینے کو غیر فعال کرتا ہے۔
4. Mirostat ورژن 2 میں ورژن 1 کے مقابلے میں بنیادی بہتری کیا ہے؟
   • یہ تصاویر بھی بناتا ہے۔
   • یہ زیادہ میموری کی ضرورت ہے
   • یہ ٹاؤ پیرامیٹر کو ہٹاتا ہے۔
   • یہ آسان، زیادہ مضبوط کنٹرول کے لیے Zipfian کی تقسیم کے مفروضے کو گرا دیتا ہے۔
5. اگر میروسٹیٹ کو پتہ چلتا ہے کہ آؤٹ پٹ بہت زیادہ قابل قیاس ہو رہا ہے، تو یہ کرے گا:
   • مزید متنوع ٹوکنز کو تسلیم کرنے کے لیے تراشنا ڈھیلا کریں۔
   • کم ٹوکن کی اجازت دینے کے لیے تراشنا سخت کریں۔
   • فوری طور پر پیدا کرنا بند کریں۔
   • ماڈل کا سائز بڑھائیں۔
6. Which Mirostat settings does current llama.cpp expose?
   • Tokenizer vocabulary and number of layers
   • Mode, target tau, and learning-rate eta
   • Only the prompt length
   • Training epochs and validation loss
7. What does eta control in Mirostat’s feedback update?
   • The size of the model vocabulary
   • The target number of output tokens
   • How strongly the threshold changes in response to the observed error
   • The probability of a correct factual answer
8. What does a Mirostat target not guarantee by itself?
   • That the sampler reads token probabilities
   • That the setting can influence surprise
   • That the output contains tokens
   • That the generated text is factually correct