گائیڈ سے منسلک کوئز · درمیانہ سطح
خود زیر نگرانی لرننگ کوئز
ڈیٹا سے حاصل کردہ اہداف، BERT ماسکنگ، SimCLR جوڑوں، تشریح کی ضروریات، موافقت، اگلے ٹوکن کاموں، پروجیکشن ہیڈز، اور کرپٹڈ ٹوکن اہداف کا جائزہ لیں۔
سوال 1 کی 8
Where does the supervision signal in the described self-supervised examples come from?
ہر سوال کا جائزہ لیں۔8 سوالات
جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔
- Where does the supervision signal in the described self-supervised examples come from?
- A requirement for no training objective
- Only new human semantic labels for every pretraining example
- A rule that examples contain no useful information
- The data and defined transformations of it
- Which input positions contribute prediction targets to the original BERT masked-language-model loss?
- The positions selected for the MLM prediction task
- Every position in the entire input regardless of selection
- Only the first position of each new sentence
- Only positions that appear after the final sentence boundary
- سم سی ایل آر کی طرح متضاد سیکھنے میں، ایک 'مثبت جوڑی' ہے:
- دو مکمل طور پر غیر متعلقہ تصاویر
- انسانی تحریری لیبلز کا ایک جوڑا
- ایک ہی تصویر کے دو بڑھے ہوئے نظارے جو سرایت کرنے کی جگہ میں قریب ہونے چاہئیں
- ڈیٹاسیٹ کی دو کاپیاں
- What annotation requirement can self-supervised pretraining reduce in the described examples?
- The need for any usable input data
- Separate task-specific semantic labels for every pretraining example
- All computational cost by definition
- The need to assess downstream performance
- How can a representation learned through self-supervision be used for a later task?
- By evaluating a task head or adapting the representation through fine-tuning
- By assuming every target task requires no labels or validation
- By discarding all representations before making predictions
- By treating the pretraining loss as proof of every application's accuracy
- GPT طرز کے ماڈل کا خود زیر نگرانی کام BERT سے کیسے مختلف ہے؟
- یہ بالکل بھی کوئی متن استعمال نہیں کرتا ہے۔
- اسے ہر لفظ کے لیے دستی لیبلز کی ضرورت ہوتی ہے۔
- یہ صرف دستاویز کے پہلے لفظ کی پیش گوئی کرتا ہے۔
- یہ نقاب پوش ٹوکن بھرنے کے بجائے اگلے ٹوکن کی پیش گوئی کرتا ہے۔
- In the original SimCLR framework, which component is discarded for the reported downstream representation use?
- The encoder representation itself
- The contrastive projection head
- All training inputs before pretraining begins
- The positive-pair source-image relationship
- When original BERT pretraining replaces a selected input position with a random token, what remains its loss target?
- The newly inserted random token
- The next sentence's first token in every case
- The original token before replacement
- No target, because every random replacement is omitted from training