SelanjutnyaPanduan berikutnya
Bagaimana Pertanyaan Utama Bias Jawaban AI
Bahasa AI
PANDUAN AI Bahasa
Bias Logit
Bias logit adalah tombol yang mendorong model bahasa mendekati atau menjauhi token tertentu dengan menambahkan angka tetap pada skornya sebelum model memilih kata berikutnya.
Dengarkan panduan iniDiceritakan oleh AI · ~2 min
Di halaman ini2 menit membaca
Ikhtisar
Ini adalah cara ringan untuk melarang kata-kata, memaksakan pilihan, atau gaya bentuk tanpa melatih ulang apa pun.
Menyelam Lebih Dalam
Sebelum model memilih token berikutnya, model menghasilkan logit (skor yang tidak dinormalisasi) untuk setiap token dalam kosakatanya. Bias logit memungkinkan Anda menambahkan nilai konstan ke logit token yang dipilih berdasarkan ID token numeriknya. Bias positif yang besar membuat token lebih mungkin untuk dijadikan sampel; bias negatif yang besar (seringkali -100 pada API) secara efektif menghalangi hal tersebut. Karena penyesuaian terjadi sebelum softmax yang mengubah skor menjadi probabilitas, bahkan bias kecil pun dapat menggeser distribusi secara berarti. Yang terpenting, bias tersebut terletak pada ID token, bukan seluruh kata — sehingga kata multi-token mungkin memerlukan setiap bagiannya yang bias untuk sepenuhnya menekan atau mempromosikannya. Ini adalah kontrol bedah yang cepat dan tidak memerlukan penyesuaian dan dapat diterapkan sesuai permintaan.
Implementasi Dunia Nyata
Menetapkan bias -100 pada token kata-kata kotor untuk mencegah chatbot mengeluarkan kata-kata tertentu.
Memaksakan pengklasifikasi ya/tidak dengan memberikan bias positif yang kuat pada token 'Ya' dan 'Tidak' dan menekan yang lainnya.
Mencegah penggunaan frasa atau kata pengisi yang berlebihan dengan menerapkan bias negatif yang moderat pada tokennya.
Meningkatkan istilah khusus domain (seperti nama produk) sehingga peringkas dapat menyebutkannya dengan andal.
Masa Depan Bias Logit
Bias logit tetap menjadi hal yang penting dalam pengendalian cepat, namun alternatif yang lebih kaya kini semakin berkembang: penguraian kode terstruktur/terbatas untuk jaminan keras, dan pengarah aktivasi atau rekayasa representasi yang mendorong vektor internal model, bukan sekadar skor keluaran. Harapkan API untuk menjaga bias logit sebagai jalan keluar sederhana sambil menawarkan kontrol tingkat yang lebih tinggi — frasa yang dilarang, arahan gaya, filter keamanan — yang menangani tokenisasi secara otomatis sehingga pengembang tidak perlu memikirkan ID token mentah.
Mempraktikkannya
Mengapa itu penting
- Kecepatan dan skala. Alur kerja bahasa dapat berjalan lebih cepat tanpa mengorbankan konsistensi.
- Akses dan jangkauan. Ini memperluas akses lintas bahasa dan gaya komunikasi.
- Keputusan yang lebih jelas. Tim dapat menghabiskan lebih banyak waktu untuk melakukan penilaian sementara otomatisasi menangani pengulangan.
Hati-hati
- Fakta-fakta yang dihalusinasi dapat secara diam-diam masuk ke dalam laporan, aliran dukungan, atau keluaran penelitian.
- Sensitivitas yang cepat dapat menimbulkan hasil yang tidak konsisten pada permintaan serupa.
- Data teks sensitif mungkin terekspos jika kontrol akses lemah.
Langkah selanjutnya
- Tentukan format output, nada, dan standar kualitas sebelum peluncuran.
- Dasarkan respons dengan sumber tepercaya kapan pun akurasi penting.
- Pertahankan pos pemeriksaan tinjauan manusia untuk keluaran berisiko tinggi.
- Lacak pola kegagalan dan latih kembali perintah atau alur kerja secara teratur.
Terus Menjelajah
Buletin gratis
Dapatkan pengarahan AI harian
Tiga cerita AI terverifikasi setiap pagi hari kerja, ditulis dalam bahasa Inggris sederhana. Gratis selamanya, tanpa iklan.
Satu email setiap hari kerja. Berhenti berlangganan dalam satu klik. Kami tidak pernah menjual atau membagikan alamat Anda.
Uji diri Anda sendiri
Take the Logit Bias quiz
Umpan balik instan untuk setiap jawaban, dan sertifikat yang dapat dibagikan dengan ID yang dapat diverifikasi setelah Anda lulus kursus.
Mendukung pendidikan AI gratis. AI Understanding adalah organisasi nirlaba 501(c)(3) — tanpa iklan, tanpa paywall, selamanya. Berikan sumbangan
Pertanyaan yang sering diajukan
Apa itu Bias Logit?
Bias logit adalah tombol yang mendorong model bahasa mendekati atau menjauhi token tertentu dengan menambahkan angka tetap pada skornya sebelum model memilih kata berikutnya. Ini adalah cara ringan untuk melarang kata-kata, memaksakan pilihan, atau gaya bentuk tanpa melatih ulang apa pun.
Apa yang dimodifikasi oleh logit bias?
Bias logit menambahkan konstanta ke logit ID token yang dipilih, mengubah seberapa besar kemungkinan ID token tersebut dipilih, tanpa mengubah model itu sendiri.
Di banyak API, apa yang dicapai oleh bias logit -100 pada sebuah token?
Bias negatif yang besar seperti -100 mendorong probabilitas pasca-softmax token menjadi nol, sehingga hampir tidak pernah diproduksi.
What numeric range does the documented OpenAI Chat Completions logit_bias accept for a token?
The API reference documents a range of -100 to 100 for each token ID, where negative values decrease likelihood and positive values increase it.
Bias logit dikunci pada pengidentifikasi apa?
Nilai bias diterapkan pada ID token tertentu dari kosakata pembuat token, itulah sebabnya Anda harus mengetahui ID untuk potongan sebuah kata.
Karena logit dilewatkan melalui softmax, apa efek penambahan bias positif?
Softmax memperpangkatkan logit, sehingga bahkan bias positif yang sederhana pun akan melipatgandakan bobot token yang tidak dinormalisasi secara substansial, sehingga secara tajam meningkatkan peluangnya.
Teruslah belajar
Panduan terkait
Panduan lainnya dipilih untuk topik ini