Penyetelan Cepat
Penyetelan cepat mengadaptasi model bahasa beku dengan mempelajari beberapa vektor 'permintaan lunak' berkelanjutan yang ditambahkan ke masukan, alih-alih menulis kata dengan tangan.
Ikhtisar
It is one of the leanest ways to specialize a giant model, and it gets better as models get bigger.
Menyelam Lebih Dalam
Penyetelan cepat, yang diperkenalkan oleh peneliti Google Lester, Al-Rfou, dan Constant pada tahun 2021, adalah sepupu penyetelan awalan yang paling sederhana. Daripada membuat perintah teks secara manual, Anda membekukan seluruh model dan mempelajari matriks kecil penyematan berkelanjutan—'perintah lunak'—yang hanya ditambahkan di lapisan masukan. Penurunan gradien menyesuaikan vektor-vektor ini untuk mendorong perilaku yang tepat untuk suatu tugas. Temuan yang mengejutkan: saat model dasar menskalakan hingga mencapai miliaran parameter, penyetelan cepat akan menutup kesenjangan tersebut dengan penyempurnaan penuh, yang pada akhirnya akan mencocokkannya pada tolok ukur seperti SuperGLUE. Setiap tugas hanya memerlukan soft prompt kecilnya sendiri (seringkali beberapa ribu parameter), sehingga satu model yang dibekukan dapat melayani banyak tugas sekaligus. Para penulis membingkai hal ini sebagai 'kekuatan skala untuk penyetelan cepat yang efisien dalam parameter'.
Wawasan Teknis
Perintah lunak bukanlah kata-kata nyata—ini adalah vektor yang mengambang bebas di ruang penyematan yang tidak perlu berhubungan dengan token apa pun dalam kosakata. Mereka ditambahkan hanya pada lapisan penyematan masukan (tidak seperti penyetelan awalan, yang dimasukkan ke setiap lapisan), membuat penyetelan cepat menjadi lebih ringan. Karena model dibekukan, gradien mengalir kembali hanya ke penyematan soft-prompt. Inisialisasi, panjang prompt, dan skala model semuanya sangat mempengaruhi kualitas.
Dampak Strategis
Kecepatan dan skala
Alur kerja bahasa dapat berjalan lebih cepat tanpa mengorbankan konsistensi.
Access and reach
Ini memperluas akses lintas bahasa dan gaya komunikasi.
Clearer decisions
Tim dapat menghabiskan lebih banyak waktu untuk melakukan penilaian sementara otomatisasi menangani pengulangan.
Masa Depan Penyetelan Cepat
Penyetelan cepat mempopulerkan gagasan bahwa Anda dapat mengarahkan model pondasi beku dengan sinyal kecil yang dipelajari, dan hal ini mendasari sebagian besar perangkat PEFT saat ini. Ketika model terus berkembang, efek penutupan kesenjangan membuat permintaan lunak (soft prompt) menarik untuk penerapan multi-tugas yang murah. Penelitian memperluas gagasan untuk mentransfer perintah yang dapat dipelajari ke seluruh tugas dan model, menggabungkannya dengan pengambilan, dan menggunakannya untuk pembuatan yang terkendali dan lebih aman. Harapkan petunjuk lembut untuk tetap menjadi pendorong berbiaya rendah bersama LoRA dan adaptor.
Implementasi Dunia Nyata
Mengkhususkan satu model T5 beku untuk banyak tugas SuperGLUE, menyimpan soft prompt terpisah per tugas
Menerapkan satu model besar dengan biaya murah ke banyak pelanggan, masing-masing dengan perintah yang dipelajarinya sendiri
Mengarahkan sentimen atau perilaku klasifikasi tanpa merekayasa kata-kata secara manual
Transfer soft-prompt: melatih prompt pada satu tugas untuk memulai pembelajaran pada tugas terkait
Risiko & Pagar Pembatas
Fakta-fakta yang dihalusinasi dapat secara diam-diam masuk ke dalam laporan, aliran dukungan, atau keluaran penelitian.
Sensitivitas yang cepat dapat menimbulkan hasil yang tidak konsisten pada permintaan serupa.
Data teks sensitif mungkin terekspos jika kontrol akses lemah.
Peta Jalan Implementasi
Tentukan format output, nada, dan standar kualitas sebelum peluncuran.
Dasarkan respons dengan sumber tepercaya kapan pun akurasi penting.
Pertahankan pos pemeriksaan tinjauan manusia untuk keluaran berisiko tinggi.
Lacak pola kegagalan dan latih kembali perintah atau alur kerja secara teratur.
Terus Menjelajah
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Prompt Tuning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Prompt Engineering
Pertanyaan yang sering diajukan
What is Prompt Tuning?
Penyetelan cepat mengadaptasi model bahasa beku dengan mempelajari beberapa vektor 'permintaan lunak' berkelanjutan yang ditambahkan ke masukan, alih-alih menulis kata dengan tangan. Ini adalah salah satu cara paling ramping untuk mengkhususkan model raksasa, dan ini menjadi lebih baik seiring bertambahnya model.
Apa yang dimaksud dengan 'soft prompt' dalam penyetelan prompt?
Perintah lunak adalah vektor kontinu yang dapat dilatih dalam menyematkan ruang, bukan kata-kata yang dapat dibaca manusia.
Di mana penyetelan cepat menambahkan vektor yang dapat dilatih?
Penyetelan cepat menambahkan perintah lembut hanya pada input, yang membuatnya lebih ringan daripada penyetelan awalan.
Efek mengejutkan apa yang disoroti oleh makalah asli tentang skala model?
Judul makalah ini menekankan 'kekuatan skala': model yang lebih besar memungkinkan penyetelan cepat menyaingi penyempurnaan penuh.
Siapa yang memperkenalkan penyetelan cepat?
Brian Lester, Rami Al-Rfou, dan Noah Constant di Google menerbitkan makalah penyetelan cepat pada tahun 2021.
Bagaimana cara penyetelan cepat memungkinkan melayani banyak tugas dari satu model?
Hanya soft prompt kecil yang spesifik untuk tugas, sehingga satu model yang dibekukan dapat menghosting banyak tugas dengan menukar prompt.