گائیڈ سے منسلک کوئز · درمیانہ سطح
لاگ ان لینس اور ٹیونڈ لینس کوئز
انٹرمیڈیٹ لیئر ریڈ آؤٹ، بقایا اسٹریم ڈھانچہ، ٹیونڈ لینس ٹرانسلیٹر اور خام لاگٹ لینس کی حدود کو چیک کرتا ہے۔
سوال 1 کی 8
لاگٹ لینس کیا کرتا ہے؟
ہر سوال کا جائزہ لیں۔8 سوالات
جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔
- لاگٹ لینس کیا کرتا ہے؟
- فی پرت کی پیشین گوئیاں پڑھنے کے لیے ماڈل کی حتمی ان ایم بیڈنگ کو درمیانی چھپی ہوئی حالتوں پر لاگو کرتا ہے
- ٹرانسفارمر میں نئی پرتیں شامل کرتا ہے۔
- ماڈل سے توجہ ہٹاتا ہے۔
- انسانی زبانوں کے درمیان ترجمہ کرتا ہے۔
- ٹیونڈ لینس خام لاگٹ لینس پر کیا اہم بہتری لاتا ہے؟
- یہ ایک بڑی ذخیرہ الفاظ استعمال کرتا ہے۔
- یہ چھپی ہوئی ریاستوں کو حتمی بنیاد میں ترجمہ کرنے کے لیے ایک چھوٹے سے فی پرت affine نقشہ کو تربیت دیتا ہے۔
- یہ کسی بھی unembedding کی ضرورت کو دور کرتا ہے۔
- یہ صرف تصویری ماڈلز پر کام کرتا ہے۔
- ٹرانسفارمرز میں کون سی ساخت ان لینز کو ممکن بناتی ہے؟
- convolutional فلٹرز
- ٹوکنائزر
- اضافی بقایا سلسلہ جسے بعد میں غیر ایمبیڈ کرنے والا لاگٹس پر پروجیکٹ کرتا ہے۔
- اصلاح کار کی سیکھنے کی شرح
- اصل لاگٹ لینس کس نے متعارف کرایا، اور تقریباً کب؟
- ڈیپ مائنڈ 2015 میں
- OpenAI 2018 میں
- 2012 میں Google
- 2020 میں نوسٹل جیبراسٹ
- لاگٹ لینس اکثر حتمی جواب 'کرسٹالائزنگ' کہاں دکھاتا ہے؟
- درمیانی تا دیر کی تہوں میں
- صرف پہلی پرت میں
- کبھی نہیں، جواب ایک ہی وقت میں ظاہر ہوتا ہے۔
- مکمل طور پر ماڈل سے باہر
- ابتدائی تہوں میں خام لاگٹ لینس ناقابل اعتبار کیوں ہو سکتا ہے؟
- ابتدائی تہوں میں کوئی نیوران نہیں ہوتے
- ان کی پوشیدہ ریاستیں ابھی تک حتمی پیداوار کی بنیاد کے ساتھ منسلک نہیں ہیں جس کی توقع unembedding کی ہے۔
- ابتدائی پرتیں کبھی پیش گوئی میں استعمال نہیں ہوتیں۔
- غیر ایمبیڈنگ میٹرکس بے ترتیب ہے۔
- What does the model’s final unembedding map a residual-stream vector into?
- A new set of transformer layers
- A similarity graph over training examples
- Vocabulary logits that can be converted into token probabilities
- A gradient clipping threshold
- Why can an early-layer raw logit-lens prediction be misleading?
- The layer has already generated the full answer
- The tokenizer has been removed
- The unembedding only works on images
- The intermediate state may not yet be aligned with the final output basis