SelanjutnyaPanduan berikutnya
Pagar Pembatas dan Moderasi Output
Bahasa AI
PANDUAN AI Bahasa
Peningkatan Output Iteratif yang Memperbaiki Sendiri
Self-Refine adalah teknik prompt di mana model bahasa mengkritik keluarannya sendiri dan menulis ulang, mengulanginya hingga jawabannya membaik.
Dengarkan panduan iniDiceritakan oleh AI · ~2 min
Di halaman ini2 menit membaca
Ikhtisar
Hal ini penting karena model sering kali dapat mengenali dan memperbaiki kesalahannya sendiri tanpa pelatihan tambahan atau masukan dari manusia.
Menyelam Lebih Dalam
Self-Refine, yang diperkenalkan oleh Madaan dan rekannya pada tahun 2023, menjalankan model yang sama dalam tiga peran: generator, kritikus, dan revisi. Pertama model menghasilkan jawaban awal. Kemudian diminta untuk memberikan umpan balik yang spesifik dan dapat ditindaklanjuti pada jawaban tersebut (misalnya, "kode ini tidak memiliki penanganan kesalahan" atau "ringkasan ini tidak mencakup angka biaya"). Terakhir, ia menulis ulang jawabannya menggunakan umpan balik tersebut. Siklus ini berulang hingga model memutuskan bahwa keluarannya cukup baik atau batas langkah tercapai. Yang terpenting, tidak diperlukan pelatihan tambahan, model penghargaan, atau alat eksternal, yang diperlukan hanyalah dorongan cerdas. Pada tugas-tugas seperti pengoptimalan kode, dialog, dan penulisan ulang sentimen, loop ini secara signifikan meningkatkan kualitas dibandingkan pembuatan single-shot.
Implementasi Dunia Nyata
Memperbaiki kode yang dihasilkan dengan membuat model menandai kasus tepi yang hilang, lalu menulis ulang fungsi untuk menanganinya
Menyempurnakan draf email atau esai dengan mengkritik diri sendiri dengan nada dan kejelasan, kemudian merevisinya untuk audiens target
Mengoptimalkan jawaban suatu soal matematika atau penalaran dengan memeriksa setiap langkah dan mengoreksi kesalahan aritmatika
Menyempurnakan balasan dukungan pelanggan sehingga menjawab pertanyaan pengguna secara langsung, bukan memberikan respons umum
Masa Depan Peningkatan Output Iteratif Self-Refine
Self-Refine menjadi landasan bagi sistem agen, tempat model menyusun, menguji, dan memperbaiki kode atau rencana secara berulang-ulang sebelum bertindak. Harapkan integrasi yang lebih erat dengan pemverifikasi eksternal (pengujian unit, kalkulator, penelusuran) sehingga kritik didasarkan pada sinyal nyata dan bukan opini model. Penelitian sedang menyelidiki kapan kritik diri membantu versus ketika model terus-menerus mengulangi kesalahan, dan pengontrol adaptif yang memutuskan berapa banyak penyempurnaan yang benar-benar dibutuhkan suatu tugas untuk menyeimbangkan kualitas dengan biaya.
Mempraktikkannya
Mengapa itu penting
- Kecepatan dan skala. Alur kerja bahasa dapat berjalan lebih cepat tanpa mengorbankan konsistensi.
- Akses dan jangkauan. Ini memperluas akses lintas bahasa dan gaya komunikasi.
- Keputusan yang lebih jelas. Tim dapat menghabiskan lebih banyak waktu untuk melakukan penilaian sementara otomatisasi menangani pengulangan.
Hati-hati
- Fakta-fakta yang dihalusinasi dapat secara diam-diam masuk ke dalam laporan, aliran dukungan, atau keluaran penelitian.
- Sensitivitas yang cepat dapat menimbulkan hasil yang tidak konsisten pada permintaan serupa.
- Data teks sensitif mungkin terekspos jika kontrol akses lemah.
Langkah selanjutnya
- Tentukan format output, nada, dan standar kualitas sebelum peluncuran.
- Dasarkan respons dengan sumber tepercaya kapan pun akurasi penting.
- Pertahankan pos pemeriksaan tinjauan manusia untuk keluaran berisiko tinggi.
- Lacak pola kegagalan dan latih kembali perintah atau alur kerja secara teratur.
Terus Menjelajah
Buletin gratis
Dapatkan pengarahan AI harian
Tiga cerita AI terverifikasi setiap pagi hari kerja, ditulis dalam bahasa Inggris sederhana. Gratis selamanya, tanpa iklan.
Satu email setiap hari kerja. Berhenti berlangganan dalam satu klik. Kami tidak pernah menjual atau membagikan alamat Anda.
Uji diri Anda sendiri
Take the Self-Refine Iterative Output Improvement quiz
Umpan balik instan untuk setiap jawaban, dan sertifikat yang dapat dibagikan dengan ID yang dapat diverifikasi setelah Anda lulus kursus.
Mendukung pendidikan AI gratis. AI Understanding adalah organisasi nirlaba 501(c)(3) — tanpa iklan, tanpa paywall, selamanya. Berikan sumbangan
Pertanyaan yang sering diajukan
Apa yang dimaksud dengan Peningkatan Output Iteratif Self-Refine?
Self-Refine adalah teknik prompt di mana model bahasa mengkritik keluarannya sendiri dan menulis ulang, mengulanginya hingga jawabannya membaik. Hal ini penting karena model sering kali dapat mengenali dan memperbaiki kesalahannya sendiri tanpa pelatihan tambahan atau masukan dari manusia.
Apa tiga peran yang dimainkan oleh satu model dalam loop Self-Refine?
Self-Refine menggunakan satu model dalam tiga peran yang diminta: membuat draf, mengkritiknya, lalu merevisinya.
Apa yang dibutuhkan Self-Refine selain dorongan untuk bekerja?
Ciri khas dari Self-Refine adalah bahwa ia tidak memerlukan pelatihan tambahan, model penghargaan, atau umpan balik manusia, hanya dorongan saja.
Mengapa menghasilkan masukan secara terpisah dari pembuatan draf bermanfaat?
Mengkritik dengan cara yang baru akan mendorong evaluasi yang obyektif dibandingkan merasionalisasi jawaban awal.
Umpan balik seperti apa yang membuat langkah penyempurnaan menjadi paling efektif?
Kritik yang spesifik dan dapat ditindaklanjuti (misalnya, 'tambahkan penanganan kesalahan') mendorong pengeditan yang ditargetkan; umpan balik yang tidak jelas menghasilkan revisi yang tidak jelas.
Kapan Self-Refine cenderung gagal meningkatkan output?
Jika model tidak dapat mengenali suatu masalah, kritik dirinya tidak akan memunculkan masalah tersebut, sehingga revisi tidak dapat memperbaikinya.
Teruslah belajar
Panduan terkait
Panduan lainnya dipilih untuk topik ini