SeterusnyaPanduan seterusnya
Perhatian Berbilang Pertanyaan
AI bahasa
PANDUAN Teknikal
Penulisan Semula Pertanyaan dan Pendapatan Berbilang Pertanyaan
Penulisan semula pertanyaan dan perolehan berbilang pertanyaan ialah teknik RAG yang mengubah soalan pengguna sebelum mencari, dengan menghurainya semula, memecahkannya kepada sub-soalan atau menjana beberapa varian dan menggabungkan keputusannya.
Pada halaman ini3 min dibaca
Gambaran keseluruhan
Ia penting kerana pengguna sering bertanya soalan yang samar-samar, perbualan atau berbilang bahagian yang perkataannya tidak sepadan dengan dokumen, dan pertanyaan yang lebih baik boleh memaparkan petikan yang berkaitan satu carian literal akan terlepas.
Menyelam dalam
Kualiti perolehan sangat bergantung pada pertanyaan. Pengguna menulis soalan pendek, samar-samar atau perbualan, manakala dokumen menggunakan perbendaharaan kata mereka sendiri. Transformasi pertanyaan menutup jurang itu sebelum carian berlaku. Bentuk yang paling mudah ialah menulis semula: LLM menukar mesej pengguna menjadi pertanyaan carian yang lebih jelas. Ini penting dalam sembang berbilang giliran, di mana tindakan susulan seperti "dan pada 2023?" tidak bermakna tanpa sejarah, jadi sistem memekatkan perbualan menjadi pertanyaan kendiri. Penguraian membahagikan soalan kompleks kepada sub-soalan yang boleh diambil secara berasingan, berguna untuk perbandingan atau soalan berbilang hop. Gesaan langkah ke belakang, yang diterangkan oleh penyelidik Google DeepMind pada tahun 2023, mengajukan soalan yang lebih umum terlebih dahulu untuk mendapatkan semula prinsip latar belakang. Pendapatan berbilang pertanyaan menjana beberapa varian soalan, menjalankan carian untuk setiap satu dan menggabungkan hasil. LangChain mempopularkan ini dengan MultiQueryRetrievernya. RAG-Fusion menggabungkan berbilang pertanyaan dengan gabungan pangkat timbal balik (RRF), kaedah yang diterangkan oleh Cormack, Clarke dan Buettcher pada tahun 2009, yang menjaringkan setiap dokumen dengan menjumlahkan 1/(k + kedudukan) merentas senarai hasil. Dokumen yang kelihatan tinggi dalam beberapa senarai naik ke bahagian atas tanpa memerlukan skor mentah yang setanding. Teknik yang berkaitan, HyDE (Hypothetical Document Embeddings, Gao and colleagues, 2022), meminta model menulis jawapan hipotesis dan membenamkannya dan bukannya soalan, kerana teks berbentuk jawapan selalunya terletak lebih dekat dengan petikan jawapan sebenar dalam ruang benam. Salah tanggapan: lebih banyak pertanyaan tidak selalunya lebih baik. Setiap varian menambah kependaman dan kos, dan varian yang dijana dengan buruk boleh hanyut daripada niat pengguna, menarik dokumen yang tidak berkaitan. Penulisan semula juga boleh menghapuskan kekangan penting seperti tarikh atau nama produk. Ukur kualiti ingatan dan jawapan pada soalan sebenar sebelum menggunakan langkah-langkah ini.
Kesan Strategik
Kos dan bajet
Keputusan seni bina memacu prestasi dan kos operasi selama bertahun-tahun.
Keputusan yang lebih jelas
Pendidikan teknikal membantu pasukan memilih timbunan yang betul, bukan hanya yang terbaharu.
Kawalan kualiti
Pilihan kejuruteraan yang lebih baik mengurangkan insiden kebolehpercayaan dalam pengeluaran.
Masa Depan Penulisan Semula Pertanyaan dan Pendapatan Berbilang Pertanyaan
Apabila RAG agenik merebak, transformasi pertanyaan semakin dikendalikan oleh model yang memutuskan perkara yang perlu dicari, berulang apabila hasil kelihatan lemah, dan bukannya dengan langkah penulisan semula yang tetap. Itu menjadikan idea asas, penguraian, varian dan gabungan, lebih penting walaupun ia menjadi kurang kelihatan. Penambahbaikan dalam model pembenaman dan carian hibrid mengurangkan beberapa ketidakpadanan perbendaharaan kata tetapi tidak menghilangkan keperluan untuk menjelaskan soalan samar-samar atau perbualan. Jangkakan pasukan untuk menggunakan teknik ini secara selektif, dicetuskan apabila pertanyaan kelihatan rumit atau pencarian awal adalah lemah, untuk mengimbangi kualiti dengan kos.
Pelaksanaan Dunia Sebenar
Dalam pembantu sembang, susulan "bagaimana dengan kakitangan sambilan?" ditulis semula ke dalam pertanyaan kendiri seperti "dasar cuti ibu bapa untuk pekerja sambilan" menggunakan perbualan awal.
Soalan yang membandingkan harga dua pembekal awan diuraikan menjadi carian berasingan untuk setiap pembekal dan hasilnya digabungkan sebelum menjawab.
Bot sokongan menjana empat frasa "apl saya terus mengelog saya keluar", termasuk istilah teknikal seperti tamat tempoh sesi dan penyegaran token, dan menggabungkan hasil dengan gabungan kedudukan timbal balik.
Pembantu penyelidik menggunakan langkah ke belakang untuk terlebih dahulu mencari prinsip umum di sebalik soalan sempit, kemudian mendapatkan butiran khusus, memberikan model latar belakang dan khusus.
Risiko & Pengawal
Mengoptimumkan satu penanda aras boleh menyembunyikan kelemahan sistem yang lebih luas.
Kos infrastruktur dan penyelenggaraan sering dipandang remeh.
Jurang keselamatan dan pemerhatian boleh berkembang apabila sistem menjadi lebih kompleks.
Hala Tuju Pelaksanaan
Tentukan sasaran kependaman, kualiti dan kos sebelum pelaksanaan.
Penanda aras di bawah beban realistik dan keadaan data.
Pemantauan instrumen untuk ralat, drift dan kesan pengguna.
Sediakan laluan balik dan tindak balas insiden sebelum penskalaan.
Teruskan Meneroka
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Query Rewriting and Multi-Query Retrieval quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Soalan lazim
Apakah itu Penulisan Semula Pertanyaan dan Pengambilan Berbilang Pertanyaan?
Penulisan semula pertanyaan dan perolehan berbilang pertanyaan ialah teknik RAG yang mengubah soalan pengguna sebelum mencari, dengan menghurainya semula, memecahkannya kepada sub-soalan atau menjana beberapa varian dan menggabungkan keputusannya. Ia penting kerana pengguna sering bertanya soalan yang samar-samar, perbualan atau berbilang bahagian yang perkataannya tidak sepadan dengan dokumen, dan pertanyaan yang lebih baik boleh memaparkan petikan yang berkaitan satu carian literal akan terlepas.
Mengapakah penulisan semula pertanyaan amat penting dalam sembang berbilang pusingan?
Susulan seperti "dan pada 2023?" memerlukan sejarah perbualan untuk menjadi pertanyaan kendiri yang berguna.
Teknik manakah yang membahagikan soalan perbandingan kepada carian berasingan untuk setiap item yang dibandingkan?
Penghuraian memecahkan soalan kompleks atau berbilang bahagian kepada sub-soalan yang diambil secara berasingan.
Apakah yang dilakukan oleh dorongan langkah ke belakang?
Gesaan berundur, daripada penyelidik Google DeepMind, mendapatkan semula latar belakang umum sebelum yang khusus.
Dalam gabungan kedudukan timbal balik, bagaimanakah markah dokumen dikira?
RRF menjumlahkan 1/(k + pangkat) ke atas setiap senarai yang mengandungi dokumen, memberi ganjaran kepada dokumen yang mendapat kedudukan tinggi dalam beberapa senarai.
Mengapa RRF mudah untuk menggabungkan carian vektor dan hasil BM25?
Kerana RRF hanya menggunakan kedudukan pangkat, ia boleh menggabungkan senarai yang skor mentahnya tidak setanding.
Teruskan belajar
Panduan berkaitan
Lebih banyak panduan dipilih untuk topik ini