گائیڈ سے منسلک کوئز · درمیانہ سطح
Logit تعصب کوئز
جائزہ لیں کہ ٹوکن آئی ڈی لاگٹ تعصب کیسے نمونے لینے، اس کے ذیلی الفاظ کی حدود کو تبدیل کرتا ہے اور کیوں ٹوکن کی سطح کے کنٹرول مطلوبہ سے زیادہ متن کو متاثر کر سکتے ہیں۔
سوال 1 کی 8
لاگٹ تعصب کیا ترمیم کرتا ہے؟
ہر سوال کا جائزہ لیں۔8 سوالات
جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔
- لاگٹ تعصب کیا ترمیم کرتا ہے؟
- نمونے لینے سے پہلے مخصوص ٹوکنز کا سکور (لاگٹ)
- ماڈل کی تربیت کا وزن مستقل طور پر ہوتا ہے۔
- پورے پرامپٹ کا درجہ حرارت
- سیاق و سباق کی ونڈو میں ٹوکنز کی تعداد
- بہت سے APIs میں، ٹوکن پر -100 کا لاگٹ تعصب کیا حاصل کرتا ہے؟
- ٹوکن کا امکان 100 گنا زیادہ ہے۔
- ٹوکن کو پیدا ہونے سے مؤثر طریقے سے روکتا ہے۔
- الفاظ سے ٹوکن کو ہمیشہ کے لیے حذف کر دیتا ہے۔
- ماڈل کی رفتار کو دوگنا کرتا ہے۔
- What numeric range does the documented OpenAI Chat Completions logit_bias accept for a token?
- From 0 to 1 only
- From -1 to 1 only
- From -100 to 100
- Any string value
- Logit تعصب کس شناخت کنندہ سے جڑا ہوا ہے؟
- سادہ متن والا لفظ
- جملے کی پوزیشن
- ماڈل کا نام
- عددی ٹوکن ID
- کیونکہ لاگٹس سافٹ میکس سے گزرے ہیں، مثبت تعصب کو شامل کرنے کا کیا اثر ہوتا ہے؟
- یہ نارمل ہونے سے پہلے ٹوکن کے رشتہ دار وزن کو تیزی سے بڑھاتا ہے۔
- یہ خطی طور پر ایک مقررہ امکان کا اضافہ کرتا ہے۔
- تربیت تک اس کا کوئی اثر نہیں ہوتا
- یہ ٹوکن کو غور سے ہٹاتا ہے۔
- فائن ٹیوننگ پر لاگٹ تعصب کا ایک اہم فائدہ یہ ہے کہ:
- ماڈل کے علم کو مستقل طور پر بہتر کرتا ہے۔
- دوبارہ تربیت کی ضرورت نہیں ہے اور ہر درخواست پر لاگو ہوتا ہے۔
- سیاق و سباق کی کھڑکی کا سائز بڑھاتا ہے۔
- صرف تصاویر پر کام کرتا ہے۔
- Why should a developer inspect the tokenizer before applying a bias to a visible word?
- Token IDs are assigned only after sampling
- Visible words always equal one token
- The word may be represented by several token IDs, so biasing one ID may not cover all forms
- The tokenizer controls the model’s training data
- What is a practical risk of applying a strong positive bias to one token?
- It increases the context window
- It changes the model weights permanently
- It guarantees the token appears exactly once
- It can distort generation or produce repetitive, awkward text