Test legat de ghid · Mediu Nivel
Test de reglare promptă
Review soft prompts at the input layer, the frozen-model setup, and the scale-dependent results reported for prompt tuning.
Întrebare 1 de 8
Ce este un „prompt soft” în reglarea promptă?
Previzualizează fiecare întrebare8 întrebări
Răspunsurile și explicațiile apar pe măsură ce susțineți testul.
- Ce este un „prompt soft” în reglarea promptă?
- Învățați vectori de încorporare continuă care nu trebuie să fie mapați cu cuvinte reale
- O instrucțiune text formulată politicos
- O copie distilata mai mica a modelului
- Un set de logit-uri de ieșire înghețate
- Unde se adaugă reglarea promptă vectorii săi antrenabili?
- La fiecare strat de transformator
- Numai la stratul de încorporare de intrare
- Numai la nivelul de ieșire
- În starea optimizatorului
- Ce efect surprinzător a evidențiat lucrarea originală despre scara modelului?
- Reglajul prompt se înrăutățește pe măsură ce modelele cresc
- Scala nu are efect asupra reglajului prompt
- Pe măsură ce modelele cresc, reglarea promptă se apropie de calitatea completă a reglajului fin
- Modelele mai mari nu mai pot fi reglate prompt
- Cine a introdus acordarea promptă?
- DeepMind în 2016
- Anthropic în 2023
- Microsoft în 2019
- Cercetători de la Google (Lester, Al-Rfou, Constant) în 2021
- Cum permite reglarea promptă îndeplinirea mai multor sarcini dintr-un singur model?
- Fiecare sarcină folosește propriul său mesaj moale, în timp ce modelul rămâne înghețat
- Reantrenează întregul model pentru fiecare cerere
- Acesta șterge sarcinile neutilizate din greutăți
- Este nevoie de un GPU separat pentru fiecare sarcină
- How does Lester and colleagues’ paper describe prompt tuning in relation to prefix tuning?
- As a replacement for frozen language models
- As a simpler related method that the paper compares with prefix tuning
- As a tokenizer with no trainable parameters
- As a method that updates every model weight
- Which model family did Lester and colleagues use to study prompt tuning across scales?
- WaveNet
- AlphaFold2
- T5
- Pădure de izolare
- How are soft prompts optimized in prompt tuning?
- By changing all model weights for each task
- By replacing embeddings with hard-coded words only
- By training a new tokenizer for every example
- By backpropagation through a frozen language model to update the prompt vectors