Útmutatóhoz kapcsolódó kvíz · Közepes Szint
Prompt Hangolás Kvíz
Review soft prompts at the input layer, the frozen-model setup, and the scale-dependent results reported for prompt tuning.
kérdés 1 -ból 8
Mit jelent a „puha prompt” az azonnali hangolásban?
Tekintse meg az összes kérdést8 kérdéseket
A válaszok és magyarázatok megjelennek a kvíz kitöltésekor.
- Mit jelent a „puha prompt” az azonnali hangolásban?
- Megtanulta a folyamatos beágyazási vektorokat, amelyeknek nem kell valódi szavakra leképeznie
- Udvariasan megfogalmazott szöveges utasítás
- A modell kisebb desztillált másolata
- Lefagyott kimeneti logitok halmaza
- Hol adja hozzá a gyorshangolás a betanítható vektorait?
- Minden transzformátor rétegnél
- Csak a bemeneti beágyazási rétegnél
- Csak a kimeneti rétegen
- Az optimalizáló állapotán belül
- Milyen meglepő hatást emelt ki az eredeti cikk a modellskálával kapcsolatban?
- Az azonnali hangolás a modellek növekedésével egyre rosszabb
- A skála nincs hatással az azonnali hangolásra
- Ahogy nőnek a modellek, az azonnali hangolás megközelíti a teljes finomhangolási minőséget
- A nagyobb modelleket már nem lehet azonnal hangolni
- Ki vezette be az azonnali hangolást?
- A DeepMind 2016-ban
- Anthropic 2023-ban
- Microsoft 2019-ben
- A Google (Lester, Al-Rfou, Constant) kutatói 2021-ben
- Hogyan teszi lehetővé az azonnali hangolás sok feladat kiszolgálását egy modellről?
- Mindegyik feladat a saját apró, lágy promptját használja, miközben a modell fagyasztva marad
- A teljes modellt minden kéréshez újratanítja
- Törli a fel nem használt feladatokat a súlyozásból
- Feladatonként külön GPU-t igényel
- How does Lester and colleagues’ paper describe prompt tuning in relation to prefix tuning?
- As a replacement for frozen language models
- As a simpler related method that the paper compares with prefix tuning
- As a tokenizer with no trainable parameters
- As a method that updates every model weight
- Which model family did Lester and colleagues use to study prompt tuning across scales?
- WaveNet
- AlphaFold2
- T5
- Elszigetelő erdő
- How are soft prompts optimized in prompt tuning?
- By changing all model weights for each task
- By replacing embeddings with hard-coded words only
- By training a new tokenizer for every example
- By backpropagation through a frozen language model to update the prompt vectors