Halusinasi AI
Halusinasi AI terjadi ketika model menyatakan sesuatu yang salah seolah-olah itu benar — kutipan palsu, statistik yang dibuat-buat, fakta yang salah — dengan lancar dan percaya diri.
Ikhtisar
It is the single biggest trust problem with today's language models.
Menyelam Lebih Dalam
Halusinasi bukanlah serangga dalam pengertian biasa; mereka tidak mengikuti cara kerja model tersebut. Model bahasa dilatih untuk menghasilkan teks yang masuk akal secara statistik, bukan untuk memverifikasi kebenaran. Ketika ia menemui suatu kesenjangan – sebuah fakta yang tidak pernah ia pelajari, atau sebuah pertanyaan yang tidak memiliki jawaban jelas dalam pelatihannya – ia tidak mengatakan 'Saya tidak tahu.' Sebaliknya, ini menghasilkan kelanjutan yang terdengar paling mungkin, yang mungkin merupakan rekayasa yang meyakinkan. Outputnya terbaca dengan lancar, sehingga kesalahan mudah terlewatkan. Bentuk yang umum mencakup judul buku atau kasus hukum yang dibuat-buat, URL palsu, kutipan yang salah diatribusikan, dan nomor yang masuk akal namun salah. Hal ini sangat berbahaya dalam situasi berisiko tinggi seperti kedokteran, hukum, dan keuangan, di mana jawaban yang salah dan lancar bisa lebih mahal dibandingkan jawaban yang sudah jelas. Yang penting, bahkan dengan dokumen yang benar, model masih bisa bertentangan atau mengabaikannya.
Wawasan Teknis
Akar permasalahannya adalah tujuan pelatihan: memprediksi token berikutnya untuk memaksimalkan kemungkinan, tanpa pemeriksaan kebenaran bawaan dan tidak ada sinyal internal yang dapat diandalkan untuk 'Saya tidak yakin.' Retrieval-augmented generation (RAG) membantu dengan memasukkan dokumen sumber nyata ke dalam prompt, namun hal ini bukanlah solusi yang tepat — penelitian menunjukkan bahwa model masih berhalusinasi saat pengambilan tidak lancar atau saat 'pengetahuan' internal model bertentangan dengan teks yang diambil. Mitigasi lainnya mencakup mendasarkan jawaban pada kutipan, memeringkat ulang bukti yang diambil, dan penyesuaian preferensi yang memberi penghargaan pada keluaran yang setia dan didukung sumber.
Dampak Strategis
Kecepatan dan skala
Alur kerja bahasa dapat berjalan lebih cepat tanpa mengorbankan konsistensi.
Access and reach
Ini memperluas akses lintas bahasa dan gaya komunikasi.
Clearer decisions
Tim dapat menghabiskan lebih banyak waktu untuk melakukan penilaian sementara otomatisasi menangani pengulangan.
Masa Depan Halusinasi AI
Halusinasi akan dikurangi, bukan dihilangkan - halusinasi terikat pada inti probabilistik model ini. Harapkan kalibrasi yang lebih baik (model yang menandakan ketidakpastian), landasan yang lebih ketat dengan kutipan yang dapat diverifikasi, pemeriksaan mandiri otomatis dan verifikasi fakta, dan perilaku 'abstain' di mana model menolak daripada menebak-nebak. Tolok ukur dan peraturan akan mendorong vendor untuk melaporkan tingkat halusinasi. Untuk saat ini, jawaban praktisnya adalah tinjauan manusia ditambah pengambilan dan verifikasi, terutama di mana pun biaya untuk mendapatkan jawaban yang salah dan meyakinkan sangat tinggi.
Implementasi Dunia Nyata
Seorang asisten hukum mengutip kasus-kasus pengadilan yang tidak ada, dengan nama dan nomor berkas yang tampak realistis
Chatbot menciptakan makalah dan penulis akademis yang masuk akal namun palsu ketika ditanya sumbernya
Asisten pengkodean memanggil fungsi perpustakaan atau parameter API yang tidak pernah nyata
Ringkasan medis yang menyatakan dosis pasti yang bertentangan dengan dokumen sumber yang diberikan
Risiko & Pagar Pembatas
Fakta-fakta yang dihalusinasi dapat secara diam-diam masuk ke dalam laporan, aliran dukungan, atau keluaran penelitian.
Sensitivitas yang cepat dapat menimbulkan hasil yang tidak konsisten pada permintaan serupa.
Data teks sensitif mungkin terekspos jika kontrol akses lemah.
Peta Jalan Implementasi
Tentukan format output, nada, dan standar kualitas sebelum peluncuran.
Dasarkan respons dengan sumber tepercaya kapan pun akurasi penting.
Pertahankan pos pemeriksaan tinjauan manusia untuk keluaran berisiko tinggi.
Lacak pola kegagalan dan latih kembali perintah atau alur kerja secara teratur.
Terus Menjelajah
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the AI Hallucinations quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next in AI Foundations
Mitos AI
Pertanyaan yang sering diajukan
What is AI Hallucinations?
Halusinasi AI terjadi ketika model menyatakan sesuatu yang salah seolah-olah itu benar — kutipan palsu, statistik yang dibuat-buat, fakta yang salah — dengan lancar dan percaya diri. Ini adalah masalah kepercayaan terbesar dalam model bahasa saat ini.
Apa alasan utama model bahasa berhalusinasi?
Model mengoptimalkan kemungkinan token berikutnya secara statistik. Tanpa pemeriksaan kebenaran bawaan, mereka mengisi kekosongan dengan keluaran yang terdengar masuk akal namun bisa saja salah.
Mengapa halusinasi sangat berbahaya?
Karena keluaran yang salah lancar dan percaya diri, keluaran tersebut menyatu dengan jawaban yang benar dan mudah dipercaya oleh pengguna.
Apakah retrieval-augmented generation (RAG) sepenuhnya menghilangkan halusinasi?
RAG mengurangi halusinasi dengan mendasarkan jawaban pada sumber nyata, namun model masih dapat berhalusinasi ketika pengambilan tidak sempurna atau bertentangan dengan pengetahuan internalnya.
Manakah contoh halusinasi yang sebenarnya?
Menciptakan kutipan yang tidak ada namun tampak realistis adalah halusinasi klasik — percaya diri, spesifik, dan salah.
Pendekatan manakah yang merupakan cara yang diakui untuk mengurangi halusinasi?
Berlandaskan pada dokumen nyata, mengutip sumber, mengurutkan ulang bukti, dan menyesuaikan preferensi pada kesetiaan, semuanya membantu mengurangi pemalsuan.