Kuis Penyetelan Cepat

Jawaban dan penjelasan muncul saat Anda mengikuti kuis.

1. Apa yang dimaksud dengan 'soft prompt' dalam penyetelan prompt?
   • Mempelajari penyematan vektor secara terus-menerus yang tidak perlu dipetakan ke kata-kata nyata
   • Instruksi teks yang diucapkan dengan sopan
   • Salinan model sulingan yang lebih kecil
   • Satu set log keluaran yang dibekukan
2. Di mana penyetelan cepat menambahkan vektor yang dapat dilatih?
   • Pada setiap lapisan trafo
   • Hanya pada lapisan penyematan masukan
   • Hanya pada lapisan keluaran
   • Di dalam status pengoptimal
3. Efek mengejutkan apa yang disoroti oleh makalah asli tentang skala model?
   • Penyetelan yang cepat menjadi lebih buruk seiring bertambahnya model
   • Skala tidak berpengaruh pada penyetelan cepat
   • Saat model bertambah besar, penyetelan cepat mendekati kualitas penyempurnaan penuh
   • Model yang lebih besar tidak lagi dapat disetel dengan cepat
4. Siapa yang memperkenalkan penyetelan cepat?
   • Deep Mind pada tahun 2016
   • Anthropic pada tahun 2023
   • Microsoft pada tahun 2019
   • Peneliti di Google (Lester, Al-Rfou, Constant) pada tahun 2021
5. Bagaimana cara penyetelan cepat memungkinkan melayani banyak tugas dari satu model?
   • Setiap tugas menggunakan soft prompt kecilnya sendiri sementara model tetap dibekukan
   • Ini melatih ulang seluruh model untuk setiap permintaan
   • Ini menghapus tugas yang tidak terpakai dari bobot
   • Ini memerlukan GPU terpisah untuk setiap tugas
6. How does Lester and colleagues’ paper describe prompt tuning in relation to prefix tuning?
   • As a replacement for frozen language models
   • As a simpler related method that the paper compares with prefix tuning
   • As a tokenizer with no trainable parameters
   • As a method that updates every model weight
7. Which model family did Lester and colleagues use to study prompt tuning across scales?
   • GelombangNet
   • AlphaFold2
   • T5
   • Hutan Isolasi
8. How are soft prompts optimized in prompt tuning?
   • By changing all model weights for each task
   • By replacing embeddings with hard-coded words only
   • By training a new tokenizer for every example
   • By backpropagation through a frozen language model to update the prompt vectors