SeterusnyaPanduan seterusnya
Pengoptimuman Keutamaan Langsung
AI bahasa
PANDUAN AI Bahasa
Pengoptimuman Kahneman-Tversky
Pengoptimuman Kahneman-Tversky (KTO) ialah kaedah penjajaran yang belajar daripada label ibu jari ke atas atau ibu jari ke bawah dan bukannya perbandingan berpasangan.
Dengar panduan iniAI-diceritakan · ~2 min
Pada halaman ini2 min dibaca
Gambaran keseluruhan
Ia penting kerana maklum balas binari adalah jauh lebih mudah dan lebih murah untuk dikumpul daripada pasangan peringkat permintaan kebanyakan kaedah.
Menyelam dalam
KTO, yang diperkenalkan oleh Ethayarajh dan rakan sekerja di Stanford dan AI Kontekstual pada 2024, meminjam daripada teori prospek, karya Daniel Kahneman dan Amos Tversky yang memenangi Nobel tentang cara manusia menghargai keuntungan dan kerugian. Kaedah standard seperti DPO memerlukan pasangan keutamaan: jawapan yang dipilih dan ditolak untuk gesaan yang sama. KTO sebaliknya berfungsi dengan data tidak berpasangan di mana setiap output individu hanya ditandakan sebagai wajar atau tidak diingini. Ia membina kerugian yang disedari manusia yang menganggap penambahbaikan model pada sampel sebagai keuntungan atau kerugian berbanding dengan titik rujukan, menggunakan penghindaran kerugian supaya output yang tidak diingini dihukum dengan lebih teruk daripada yang diingini diberi ganjaran. Ini membolehkan pasukan menggunakan isyarat ibu jari ke atas/bawah yang banyak telah dikumpulkan dalam apl pengeluaran.
Pelaksanaan Dunia Sebenar
Menggunakan klik ibu jari ke atas/kebawah daripada chatbot yang digunakan untuk memperhalusinya tanpa membina pasangan pilihan
Menjajarkan model apabila anda mempunyai timbunan jawapan 'baik' dan 'buruk' tetapi tiada perbandingan yang sepadan untuk gesaan yang sama
Pasukan produk mengitar semula bendera penyederhanaan (tidak diingini) dan respons yang disimpan (diingini) ke dalam latihan KTO
Mengendalikan maklum balas yang tidak seimbang apabila tidak suka lebih jarang daripada suka dengan menala keengganan kehilangan dan berat kelas KTO
Masa Depan Pengoptimuman Kahneman-Tversky
KTO sangat sesuai untuk produk sebenar, di mana pengguna secara semula jadi mengklik suka atau tidak suka tetapi jarang meletakkan dua jawapan sebelah menyebelah. Jangkakan penggunaan yang lebih luas untuk gelung penambahbaikan berterusan yang mengitar semula maklum balas pengeluaran, serta penyelidikan yang menala nisbah data yang diingini kepada yang tidak diingini dan berat penghindaran kerugian. Menggabungkan pembingkaian tingkah laku-ekonomi KTO dengan objektif lain, dan menerapkannya pada maklum balas pelbagai mod, adalah hala tuju aktif apabila pasukan mencari penjajaran daripada isyarat dunia sebenar yang tidak kemas.
Mempraktikkannya
Mengapa ia penting
- Kelajuan dan skala. Aliran kerja bahasa boleh bergerak lebih pantas tanpa mengorbankan konsistensi.
- Akses dan capai. Ia meluaskan akses merentas bahasa dan gaya komunikasi.
- Keputusan yang lebih jelas. Pasukan boleh menghabiskan lebih banyak masa untuk membuat pertimbangan manakala automasi mengendalikan pengulangan.
Berhati-hati untuk
- Fakta halusinasi boleh memasukkan laporan, aliran sokongan atau hasil penyelidikan secara senyap-senyap.
- Sensitiviti segera boleh mencipta hasil yang tidak konsisten merentas permintaan yang serupa.
- Data teks sensitif mungkin terdedah jika kawalan akses lemah.
Langkah seterusnya
- Tentukan format output, nada dan standard kualiti sebelum pelancaran.
- Respons asas dengan sumber yang dipercayai apabila ketepatan penting.
- Simpan pusat pemeriksaan semakan manusia untuk output berkepentingan tinggi.
- Jejaki corak kegagalan dan latih semula gesaan atau aliran kerja dengan kerap.
Teruskan Meneroka
Newsletter percuma
Dapatkan taklimat AI harian
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Take the Kahneman-Tversky Optimization quiz
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
Soalan lazim
Apakah Pengoptimuman Kahneman-Tversky?
Pengoptimuman Kahneman-Tversky (KTO) ialah kaedah penjajaran yang belajar daripada label ibu jari ke atas atau ibu jari ke bawah dan bukannya perbandingan berpasangan. Ia penting kerana maklum balas binari adalah jauh lebih mudah dan lebih murah untuk dikumpul daripada pasangan peringkat permintaan kebanyakan kaedah.
Apakah jenis data yang diperlukan oleh KTO?
KTO belajar daripada label ibu jari ke atas/bawah setiap contoh dan bukannya pasangan pilihan yang dipadankan.
KTO diilhamkan oleh badan kerja yang mana?
KTO meminjam idea teori prospek menilai keuntungan dan kerugian secara tidak simetri, oleh itu namanya.
Apakah 'loss aversion' seperti yang digunakan dalam KTO?
Teori prospek mengatakan kerugian lebih besar daripada keuntungan, jadi KTO menimbang sisihan negatif dengan lebih berat.
What kind of feedback can KTO learn from without requiring paired comparisons?
KTO’s paper studies alignment from binary desirable/undesirable feedback on individual outputs; it still needs appropriate data and setup.
Dalam KTO, sisihan diukur secara relatif kepada apa?
Fungsi nilai KTO menilai sama ada respons berada di atas atau di bawah garis dasar rujukan, menganggapnya sebagai untung atau rugi.
Teruskan belajar
Panduan berkaitan
Lebih banyak panduan dipilih untuk topik ini