গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর
ইলেকট্রা প্রিট্রেনিং কুইজ
প্রতিস্থাপিত-টোকেন সনাক্তকরণ, জেনারেটর এবং বৈষম্যকারীর ভূমিকা, টোকেন অবস্থান জুড়ে শেখা এবং গণনা তুলনার সীমা ব্যাখ্যা করে।
প্রশ্ন 1 এর 8
মুখোশযুক্ত ভাষা মডেলিংয়ের পরিবর্তে ELECTRA কোন প্রিট্রেনিং টাস্ক ব্যবহার করে?
প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন
আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।
- মুখোশযুক্ত ভাষা মডেলিংয়ের পরিবর্তে ELECTRA কোন প্রিট্রেনিং টাস্ক ব্যবহার করে?
- প্রতিস্থাপিত টোকেন সনাক্তকরণ
- পরবর্তী বাক্য ভবিষ্যদ্বাণী
- অটোরিগ্রেসিভ পরবর্তী-শব্দ ভবিষ্যদ্বাণী
- পারমুটেশন ল্যাঙ্গুয়েজ মডেলিং
- কেন ELECTRA BERT-এর চেয়ে বেশি গণনা-দক্ষ?
- এটি অনেক ছোট শব্দভান্ডার ব্যবহার করে
- এটি সমস্ত টোকেনের উপর একটি শেখার সংকেত গণনা করে, শুধু মুখোশযুক্ত নয়
- এটি শুধুমাত্র মাস্ক করা 15% টোকেনে প্রশিক্ষণ দেয়
- এটি মনোযোগের প্রক্রিয়াটিকে সম্পূর্ণভাবে এড়িয়ে যায়
- ছোট জেনারেটর নেটওয়ার্ক ইলেকট্রা-তে কী ভূমিকা পালন করে?
- এটি গুণমানের দ্বারা চূড়ান্ত আউটপুটগুলিকে স্থান দেয়
- এটি প্রশিক্ষণের পরে মডেলটিকে সংকুচিত করে
- এটি বৈষম্যকারীর বিচার করার জন্য যুক্তিযুক্ত প্রতিস্থাপন টোকেন তৈরি করে
- এটি ভাষার মধ্যে পাঠ্য অনুবাদ করে
- প্রিট্রেইনিং শেষ হওয়ার পর জেনারেটরের কী হবে?
- এটি ডাউনস্ট্রিম টাস্কের জন্য সূক্ষ্ম সুর করা হয়েছে
- এটি বৈষম্যকারীর সাথে একীভূত হয়
- এটি প্রজন্মের জন্য ডিকোডার হয়ে ওঠে
- এটা বাতিল করা হয়; শুধুমাত্র বৈষম্যকারী ব্যবহার করা হয়
- ELECTRA প্রাথমিকভাবে কোন সংস্থার গবেষকরা তৈরি করেছেন?
- Google এবং স্ট্যানফোর্ড
- Meta AI এবং NYU
- OpenAI এবং Microsoft
- ডিপমাইন্ড এবং অক্সফোর্ড
- পরবর্তীতে কোন মডেলটি ELECTRA এর প্রতিস্থাপিত-টোকেন-সনাক্তকরণ ধারণাকে প্রসারিত করেছে?
- GPT-2
- DeBERta-v3
- T5
- Word2Vec
- What happens if ELECTRA’s generator proposes the original token at a position?
- It is always labeled replaced because the generator proposed it
- The position is removed from the input
- That token is treated as original by the discriminator’s replaced-token label
- The whole sequence is discarded
- When comparing ELECTRA with another pretraining method, what makes a compute claim meaningful?
- Compare model names alone
- Assume every ELECTRA run uses one fixed compute ratio
- Ignore generator training cost
- Specify model size, data, training budget, and evaluation setting