গাইড লিঙ্ক ক্যুইজ · মাঝারি স্তর

ইলেকট্রা প্রিট্রেনিং কুইজ

প্রতিস্থাপিত-টোকেন সনাক্তকরণ, জেনারেটর এবং বৈষম্যকারীর ভূমিকা, টোকেন অবস্থান জুড়ে শেখা এবং গণনা তুলনার সীমা ব্যাখ্যা করে।

সম্পর্কিত গাইড পাথইলেকট্রা প্রিট্রেনিং
প্রশ্ন 1 এর 8

মুখোশযুক্ত ভাষা মডেলিংয়ের পরিবর্তে ELECTRA কোন প্রিট্রেনিং টাস্ক ব্যবহার করে?

প্রতিটি প্রশ্নের পূর্বরূপ দেখুন8 প্রশ্ন

আপনি কুইজ নেওয়ার সাথে সাথে উত্তর এবং ব্যাখ্যাগুলি উপস্থিত হয়।

  1. মুখোশযুক্ত ভাষা মডেলিংয়ের পরিবর্তে ELECTRA কোন প্রিট্রেনিং টাস্ক ব্যবহার করে?
    • প্রতিস্থাপিত টোকেন সনাক্তকরণ
    • পরবর্তী বাক্য ভবিষ্যদ্বাণী
    • অটোরিগ্রেসিভ পরবর্তী-শব্দ ভবিষ্যদ্বাণী
    • পারমুটেশন ল্যাঙ্গুয়েজ মডেলিং
  2. কেন ELECTRA BERT-এর চেয়ে বেশি গণনা-দক্ষ?
    • এটি অনেক ছোট শব্দভান্ডার ব্যবহার করে
    • এটি সমস্ত টোকেনের উপর একটি শেখার সংকেত গণনা করে, শুধু মুখোশযুক্ত নয়
    • এটি শুধুমাত্র মাস্ক করা 15% টোকেনে প্রশিক্ষণ দেয়
    • এটি মনোযোগের প্রক্রিয়াটিকে সম্পূর্ণভাবে এড়িয়ে যায়
  3. ছোট জেনারেটর নেটওয়ার্ক ইলেকট্রা-তে কী ভূমিকা পালন করে?
    • এটি গুণমানের দ্বারা চূড়ান্ত আউটপুটগুলিকে স্থান দেয়
    • এটি প্রশিক্ষণের পরে মডেলটিকে সংকুচিত করে
    • এটি বৈষম্যকারীর বিচার করার জন্য যুক্তিযুক্ত প্রতিস্থাপন টোকেন তৈরি করে
    • এটি ভাষার মধ্যে পাঠ্য অনুবাদ করে
  4. প্রিট্রেইনিং শেষ হওয়ার পর জেনারেটরের কী হবে?
    • এটি ডাউনস্ট্রিম টাস্কের জন্য সূক্ষ্ম সুর করা হয়েছে
    • এটি বৈষম্যকারীর সাথে একীভূত হয়
    • এটি প্রজন্মের জন্য ডিকোডার হয়ে ওঠে
    • এটা বাতিল করা হয়; শুধুমাত্র বৈষম্যকারী ব্যবহার করা হয়
  5. ELECTRA প্রাথমিকভাবে কোন সংস্থার গবেষকরা তৈরি করেছেন?
    • Google এবং স্ট্যানফোর্ড
    • Meta AI এবং NYU
    • OpenAI এবং Microsoft
    • ডিপমাইন্ড এবং অক্সফোর্ড
  6. পরবর্তীতে কোন মডেলটি ELECTRA এর প্রতিস্থাপিত-টোকেন-সনাক্তকরণ ধারণাকে প্রসারিত করেছে?
    • GPT-2
    • DeBERta-v3
    • T5
    • Word2Vec
  7. What happens if ELECTRA’s generator proposes the original token at a position?
    • It is always labeled replaced because the generator proposed it
    • The position is removed from the input
    • That token is treated as original by the discriminator’s replaced-token label
    • The whole sequence is discarded
  8. When comparing ELECTRA with another pretraining method, what makes a compute claim meaningful?
    • Compare model names alone
    • Assume every ELECTRA run uses one fixed compute ratio
    • Ignore generator training cost
    • Specify model size, data, training budget, and evaluation setting