Kuiz berkaitan panduan · Sederhana Tahap

Kuiz Penalaan Pantas

Semak gesaan lembut pada lapisan input, persediaan model beku dan keputusan bergantung skala yang dilaporkan untuk penalaan segera.

Laluan panduan yang berkaitanPenalaan Segera
soalan 1 daripada 8

Apakah 'soft prompt' dalam penalaan segera?

Pratonton setiap soalan8 soalan

Jawapan dan penjelasan muncul semasa anda mengambil kuiz.

  1. Apakah 'soft prompt' dalam penalaan segera?
    • Mempelajari vektor benam berterusan yang tidak perlu dipetakan kepada perkataan sebenar
    • Arahan teks perkataan yang sopan
    • Salinan suling model yang lebih kecil
    • Satu set logit keluaran beku
  2. Di manakah penalaan pantas menambah vektor yang boleh dilatih?
    • Pada setiap lapisan pengubah
    • Hanya pada lapisan benam input
    • Hanya pada lapisan keluaran
    • Di dalam keadaan pengoptimum
  3. Apakah kesan mengejutkan yang diketengahkan oleh kertas asal tentang skala model?
    • Penalaan segera menjadi lebih teruk apabila model berkembang
    • Skala tidak mempunyai kesan pada penalaan segera
    • Apabila model semakin besar, penalaan segera menghampiri kualiti penalaan halus sepenuhnya
    • Model yang lebih besar tidak boleh ditala segera
  4. Siapa yang memperkenalkan penalaan segera?
    • DeepMind pada tahun 2016
    • Anthropic pada tahun 2023
    • Microsoft pada tahun 2019
    • Penyelidik di Google (Lester, Al-Rfou, Constant) pada 2021
  5. Bagaimanakah penalaan segera membolehkan melaksanakan banyak tugas daripada satu model?
    • Setiap tugasan menggunakan gesaan lembutnya sendiri sementara model kekal beku
    • Ia melatih semula keseluruhan model untuk setiap permintaan
    • Ia memadam tugas yang tidak digunakan daripada pemberat
    • Ia memerlukan GPU berasingan setiap tugas
  6. How does Lester and colleagues’ paper describe prompt tuning in relation to prefix tuning?
    • As a replacement for frozen language models
    • As a simpler related method that the paper compares with prefix tuning
    • As a tokenizer with no trainable parameters
    • As a method that updates every model weight
  7. Which model family did Lester and colleagues use to study prompt tuning across scales?
    • WaveNet
    • AlphaFold2
    • T5
    • Hutan Pengasingan
  8. How are soft prompts optimized in prompt tuning?
    • By changing all model weights for each task
    • By replacing embeddings with hard-coded words only
    • By training a new tokenizer for every example
    • By backpropagation through a frozen language model to update the prompt vectors