منفی نمونے اور شور متضاد تخمینہ کوئز

جب آپ کوئز دیتے ہیں تو جوابات اور وضاحتیں ظاہر ہوتی ہیں۔

1. منفی نمونے لینے اور NCE بنیادی طور پر کونسا مسئلہ حل کرتے ہیں؟
   • ایک بہت بڑی آؤٹ پٹ اسپیس پر مکمل سافٹ میکس کمپیوٹنگ کی زیادہ قیمت
   • چھوٹے ڈیٹاسیٹس پر اوور فٹنگ
   • بار بار چلنے والے نیٹ ورکس میں ختم ہونے والے میلان
   • زیر نگرانی سیکھنے کے لیے لیبل والے ڈیٹا کی کمی
2. شور متضاد تخمینہ سیکھنے کے کام کو کیسے ری فریم کرتا ہے؟
   • مسلسل اہداف پر رجعت کے طور پر
   • صحیح ڈیٹا کے نمونوں اور شور کے نمونوں کے درمیان بائنری درجہ بندی کے طور پر
   • بغیر لیبل والے پوائنٹس کے کلسٹرنگ کے طور پر
   • انعامات کے ساتھ کمک سیکھنے کے طور پر
3. لفظ ایمبیڈنگ سیکھنے کے لیے کس ماڈل نے منفی نمونے لینے کو مقبول بنایا؟
   • بی آر ٹی
   • ریس نیٹ
   • word2vec کا سکپ گرام ماڈل
   • GPT-2
4. منفی نمونے لینے کا مکمل NCE سے کیسے فرق ہے؟
   • یہ درستگی کے لیے نارملائزیشن کی اضافی شرائط شامل کرتا ہے۔
   • اس کے لیے ہر قدم پر پوری لغت کی ضرورت ہوتی ہے۔
   • یہ سگمائڈ کے بجائے رجعت نقصان کا استعمال کرتا ہے۔
   • یہ NCE کی نارملائزیشن کی شرائط کو گرا دیتا ہے، اسے تیز تر بناتا ہے لیکن مستقل کثافت کا تخمینہ لگانے والا نہیں
5. 3/4 پاور تک بڑھا کر یونیگرام کی تقسیم سے اکثر منفی کو کیوں نمونہ دیا جاتا ہے؟
   • متواتر اور نایاب الفاظ کے اثر و رسوخ میں توازن پیدا کرنے کے بجائے مکمل طور پر تعدد سے نمونے لینے کے
   • نایاب الفاظ کو مکمل طور پر نظر انداز کرنا
   • تمام الفاظ کو یکساں طور پر ممکن بنانے کے لیے
   • تربیت سے سٹاپ الفاظ کو ہٹانے کے لیے
6. For a large vocabulary, how can sampled negative pairs reduce work compared with evaluating every word in a full softmax?
   • It computes an exact probability for every vocabulary item
   • The update scores a positive pair and a limited set of sampled negatives instead of normalizing over the whole vocabulary
   • It eliminates the need to score the positive pair
   • It sorts all words by frequency on each step
7. In skip-gram negative sampling, what is treated as the positive training pair?
   • Two words sampled independently from the noise distribution
   • A word paired with an empty context
   • A word and a context word observed together in the corpus
   • A validation label paired with a model checkpoint
8. Why is negative sampling not generally interpreted as estimating a normalized language-model probability?
   • It always sums over the full vocabulary
   • It requires exact maximum-likelihood normalization
   • It never uses negative examples
   • Its simplified binary objective drops NCE normalization terms and targets useful embeddings instead