Penguraian Konsistensi Diri
Konsistensi diri adalah strategi decoding yang mengambil sampel dari banyak jalur penalaran berbeda dari model bahasa dan kemudian memilih jawaban yang disetujui sebagian besar dari mereka.
Ikhtisar
It matters because a single greedy answer can be wrong, while the consensus across diverse attempts is far more often correct.
Menyelam Lebih Dalam
Diperkenalkan oleh peneliti Google pada tahun 2022, konsistensi diri menggantikan decoding 'serakah' yang biasa, di mana model berkomitmen pada satu token berikutnya yang paling mungkin terjadi di setiap langkah, dengan pendekatan sampel dan pemungutan suara. Idenya dibangun berdasarkan dorongan rantai pemikiran: model diminta untuk bernalar selangkah demi selangkah, namun alih-alih menghasilkan satu rantai, model tersebut mengambil sampel dari banyak rantai yang berbeda menggunakan suhu yang bukan nol. Masing-masing rantai mungkin mengambil rute yang berbeda, namun penalaran yang benar cenderung menyatu pada jawaban akhir yang sama sementara kesalahan menyebar ke arah yang berbeda. Sistem kemudian mengambil suara mayoritas atas jawaban akhir. Perubahan sederhana ini menghasilkan keuntungan besar pada tolok ukur aritmatika dan akal sehat seperti GSM8K, sering kali menambahkan peningkatan akurasi dua digit tanpa pelatihan ulang apa pun.
Wawasan Teknis
Metode ini mengeksploitasi intuisi bahwa ada banyak cara valid untuk mendapatkan jawaban yang benar, namun ada banyak cara untuk salah. Dengan mengambil sampel, katakanlah, 40 rantai dengan suhu di atas nol, model tersebut menghasilkan penalaran yang bervariasi. Hanya jawaban akhir yang dikumpulkan berdasarkan suara mayoritas bergaya marginalisasi; teks penalaran dibuang. Akurasi umumnya meningkat dengan lebih banyak sampel tetapi dengan hasil yang semakin berkurang, perdagangan inferensi ekstra menghitung keandalan. Ini tidak memerlukan data berlabel atau penyesuaian.
Dampak Strategis
Kecepatan dan skala
Alur kerja bahasa dapat berjalan lebih cepat tanpa mengorbankan konsistensi.
Access and reach
Ini memperluas akses lintas bahasa dan gaya komunikasi.
Clearer decisions
Tim dapat menghabiskan lebih banyak waktu untuk melakukan penilaian sementara otomatisasi menangani pengulangan.
Masa Depan Decoding Konsistensi Diri
Konsistensi diri adalah contoh dasar penskalaan waktu inferensi, dan turunannya kini mendukung model penalaran yang menggunakan komputasi ekstra untuk berpikir lebih keras. Arah masa depan mencakup memberi bobot pada suara berdasarkan verifikator yang dipelajari atau skor keyakinan, bukan menghitung secara merata, secara adaptif memilih berapa banyak sampel yang akan diambil berdasarkan tingkat kesulitan pertanyaan, dan menggabungkan pemungutan suara dengan kerangka pencarian seperti Tree of Thoughts. Harapkan ini tetap menjadi dasar yang murah dan bebas pelatihan yang dapat diterapkan oleh sistem mana pun ketika kebenaran lebih penting daripada latensi.
Implementasi Dunia Nyata
Meningkatkan akurasi pada soal cerita matematika sekolah dasar (GSM8K) dengan mengambil sampel banyak jalur solusi dan memberikan suara pada nomor akhir.
Meningkatkan keandalan jawaban pertanyaan multi-langkah yang masuk akal ketika satu rantai mungkin tergelincir pada satu kesimpulan.
Meningkatkan kepercayaan terhadap jawaban pembuatan kode dengan memeriksa keluaran mana yang muncul paling konsisten di seluruh sampel.
Memperkuat tugas-tugas penalaran simbolik atau logis di mana derivasi yang beragam harus menyatu pada satu kesimpulan yang benar.
Risiko & Pagar Pembatas
Fakta-fakta yang dihalusinasi dapat secara diam-diam masuk ke dalam laporan, aliran dukungan, atau keluaran penelitian.
Sensitivitas yang cepat dapat menimbulkan hasil yang tidak konsisten pada permintaan serupa.
Data teks sensitif mungkin terekspos jika kontrol akses lemah.
Peta Jalan Implementasi
Tentukan format output, nada, dan standar kualitas sebelum peluncuran.
Dasarkan respons dengan sumber tepercaya kapan pun akurasi penting.
Pertahankan pos pemeriksaan tinjauan manusia untuk keluaran berisiko tinggi.
Lacak pola kegagalan dan latih kembali perintah atau alur kerja secara teratur.
Terus Menjelajah
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Self-Consistency Decoding quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Kepala Penguraian Medusa
Pertanyaan yang sering diajukan
What is Self-Consistency Decoding?
Konsistensi diri adalah strategi decoding yang mengambil sampel dari banyak jalur penalaran berbeda dari model bahasa dan kemudian memilih jawaban yang disetujui sebagian besar dari mereka. Hal ini penting karena satu jawaban yang serakah bisa saja salah, sementara konsensus dari berbagai upaya seringkali benar.
Apa ide inti di balik penguraian kode konsistensi diri?
Konsistensi diri mengambil sampel dari berbagai rantai penalaran yang berbeda dan memilih jawaban akhir yang disetujui oleh sebagian besar rantai.
Mengapa pengambilan sampel jalur penalaran yang beragam membantu akurasi?
Ada banyak cara yang valid untuk mendapatkan jawaban yang benar, namun ada banyak cara untuk melakukan kesalahan, jadi jawaban yang benar mengelompok sementara kesalahannya berbeda-beda, sehingga mayoritas lebih dapat diandalkan.
Metode penguraian kode apa yang digantikan oleh konsistensi diri?
Daripada dengan rakus berkomitmen pada satu jalur yang paling mungkin, konsistensi diri mengambil sampel dan mengumpulkan banyak jalur.
Bagian manakah dari setiap rantai sampel yang sebenarnya digunakan dalam pemungutan suara akhir?
Alasan perantara dibuang; hanya jawaban akhir yang dikumpulkan berdasarkan suara terbanyak.
Apa kerugian utama dalam menggunakan konsistensi diri?
Menghasilkan lusinan rantai penalaran melipatgandakan biaya inferensi; akurasi meningkat dengan lebih banyak sampel tetapi dengan hasil yang semakin berkurang.