Maswali yanayounganishwa na mwongozo · Kati Kiwango

Maswali ya Matayarisho ya ELECTRA

Inafafanua ugunduzi wa ishara zilizobadilishwa, majukumu ya jenereta na kibaguzi, kujifunza kupitia nafasi za tokeni, na mipaka ya ulinganisho wa kukokotoa.

Njia za mwongozo zinazohusianaMafunzo ya awali ya Electra
Swali 1 ya 8

ELECTRA hutumia kazi gani ya utayarishaji badala ya uigaji wa lugha iliyofichwa?

Hakiki kila swali8 maswali

Majibu na maelezo huonekana unapojibu maswali.

  1. ELECTRA hutumia kazi gani ya utayarishaji badala ya uigaji wa lugha iliyofichwa?
    • Ugunduzi wa tokeni uliobadilishwa
    • Utabiri wa sentensi inayofuata
    • Utabiri wa neno linalofuata otomatiki
    • Uundaji wa lugha ya vibali
  2. Kwa nini ELECTRA ina ufanisi wa kukokotoa kuliko BERT?
    • Inatumia msamiati mdogo zaidi
    • Inajumuisha ishara ya kujifunza juu ya ishara zote, sio tu zilizofunikwa
    • Ni treni tu juu ya masked 15% ya ishara
    • Inaruka utaratibu wa tahadhari kabisa
  3. Je, mtandao mdogo wa jenereta una jukumu gani katika ELECTRA?
    • Inaorodhesha matokeo ya mwisho kwa ubora
    • Inasisitiza mfano baada ya mafunzo
    • Hutoa tokeni za uingizwaji zinazokubalika kwa mbaguzi kuhukumu
    • Inatafsiri maandishi kati ya lugha
  4. Nini kinatokea kwa jenereta baada ya mafunzo ya awali kukamilika?
    • Imepangwa vyema kwa kazi ya mkondo wa chini
    • Imeunganishwa na kibaguzi
    • Inakuwa avkodare kwa kizazi
    • Inatupwa; kibaguzi pekee ndio kinatumika
  5. ELECTRA ilitengenezwa na watafiti kutoka mashirika gani?
    • Google na Stanford
    • Meta AI na NYU
    • OpenAI na Microsoft
    • DeepMind na Oxford
  6. Ni mtindo gani wa baadaye uliopanua wazo la ugunduzi wa ishara-badala ya ELECTRA?
    • GPT-2
    • DeBERTa-v3
    • T5
    • Neno2Vec
  7. What happens if ELECTRA’s generator proposes the original token at a position?
    • It is always labeled replaced because the generator proposed it
    • The position is removed from the input
    • That token is treated as original by the discriminator’s replaced-token label
    • The whole sequence is discarded
  8. When comparing ELECTRA with another pretraining method, what makes a compute claim meaningful?
    • Compare model names alone
    • Assume every ELECTRA run uses one fixed compute ratio
    • Ignore generator training cost
    • Specify model size, data, training budget, and evaluation setting