Mai departeUrmătorul ghid
Atenție la mai multe interogări
AI limbaj
GHID tehnic
Rescrierea interogărilor și regăsirea interogărilor multiple
Rescrierea interogărilor și regăsirea cu mai multe interogări sunt tehnici RAG care transformă întrebarea utilizatorului înainte de a căuta, prin reformularea ei, împărțirea în sub-întrebări sau generarea mai multor variante și îmbinarea rezultatelor acestora.
Pe această pagină3 minute de citit
Prezentare generală
Acestea contează deoarece utilizatorii pun adesea întrebări vagi, conversaționale sau cu mai multe părți, a căror formulare nu se potrivește cu documentele, iar o interogare mai bună poate scoate la iveală pasaje relevante pe care o singură căutare literală ar rata.
Scufundare în profunzime
Calitatea extragerii depinde în mare măsură de interogare. Utilizatorii scriu întrebări scurte, ambigue sau conversaționale, în timp ce documentele își folosesc propriul vocabular. Transformarea interogării închide această decalaj înainte ca căutarea să aibă loc. Cea mai simplă formă este rescrierea: un LLM transformă mesajul utilizatorului într-o interogare de căutare mai clară. Acest lucru este esențial în chat-ul cu mai multe rânduri, unde urmăriri precum „și în 2023?” nu înseamnă nimic fără istorie, așa că sistemul condensează conversația într-o interogare de sine stătătoare. Descompunerea împarte o întrebare complexă în sub-întrebări care pot fi preluate separat, utile pentru comparații sau întrebări multi-hop. Solicitarea pasului înapoi, descrisă de cercetătorii Google DeepMind în 2023, pune mai întâi o întrebare mai generală pentru a prelua principiile de bază. Recuperarea cu mai multe interogări generează mai multe variante ale întrebării, rulează o căutare pentru fiecare și îmbină rezultatele. LangChain a popularizat acest lucru cu MultiQueryRetriever. RAG-Fusion combină interogări multiple cu fuziunea de rang reciproc (RRF), o metodă descrisă de Cormack, Clarke și Buettcher în 2009, care punctează fiecare document prin însumarea 1/(k + rang) în listele de rezultate. Documentele care apar în top în mai multe liste se ridică în top fără a avea nevoie de scoruri brute comparabile. O tehnică similară, HyDE (Hypothetical Document Embeddings, Gao și colegii, 2022), îi obligă pe model să scrie un răspuns ipotetic și să îl încorporeze în loc de întrebare, deoarece un text în formă de răspuns se află adesea mai aproape de pasajele de răspuns reale în spațiul de încorporare. Concepții greșite: mai multe interogări nu sunt întotdeauna mai bune. Fiecare variantă adaugă latență și cost, iar variantele prost generate se pot îndepărta de intenția utilizatorului, atrăgând documente irelevante. Rescrierea poate elimina, de asemenea, constrângeri importante, cum ar fi datele sau numele produselor. Măsurați reamintirea și calitatea răspunsurilor la întrebări reale înainte de a adopta acești pași.
Impact strategic
Cost și buget
Deciziile de arhitectură generează performanța și costurile de operare de ani de zile.
Decizii mai clare
Educația tehnică ajută echipele să aleagă stiva potrivită, nu doar cea mai nouă.
Controlul calității
Opțiuni de inginerie mai bune reduc incidentele de fiabilitate în producție.
Viitorul rescrierea interogărilor și regăsirea interogărilor multiple
Pe măsură ce RAG agentic se răspândește, transformarea interogărilor este gestionată din ce în ce mai mult de modelul care decide ce să caute, repetând atunci când rezultatele par slabe, mai degrabă decât de un pas fix de rescriere. Acest lucru face ca ideile de bază, descompunerea, variantele și fuziunea să fie mai importante chiar dacă devin mai puțin vizibile. Îmbunătățirile în încorporarea modelelor și a căutării hibride reduc unele nepotriviri ale vocabularului, dar nu elimină necesitatea de a clarifica întrebările ambigue sau conversaționale. Așteptați-vă ca echipele să folosească aceste tehnici în mod selectiv, declanșate atunci când o interogare pare complexă sau recuperarea inițială este slabă, pentru a echilibra calitatea cu costul.
Implementare în lumea reală
Într-un asistent de chat, urmărirea „ce zici pentru personalul cu normă parțială?” este rescris într-o interogare independentă, cum ar fi „politica de concediu parental pentru angajații cu normă parțială”, folosind conversația anterioară.
O întrebare care compară prețurile a doi furnizori de cloud este descompusă în căutări separate pentru fiecare furnizor, iar rezultatele sunt combinate înainte de a răspunde.
Un robot de asistență generează patru expresii „aplicația mea continuă să mă deconecteze”, inclusiv termeni tehnici precum expirarea sesiunii și reîmprospătarea simbolului și îmbină rezultatele cu fuziunea de rang reciproc.
Un asistent de cercetare folosește indicarea pasului înapoi pentru a căuta mai întâi principiul general din spatele unei întrebări restrânse, apoi preia detalii specifice, oferind modelului atât fundal, cât și specificul.
Riscuri și balustrade
Optimizarea unui punct de referință poate ascunde slăbiciunile mai largi ale sistemului.
Costurile de infrastructură și întreținere sunt adesea subestimate.
Lacunele de securitate și observabilitate pot crește pe măsură ce sistemele devin mai complexe.
Foaia de parcurs de implementare
Definiți obiectivele de latență, calitate și cost înainte de implementare.
Benchmark în condiții realiste de încărcare și date.
Monitorizarea instrumentelor pentru erori, deriva și impactul utilizatorului.
Pregătiți căile de retragere și răspuns la incident înainte de scalare.
Continuați să explorați
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Query Rewriting and Multi-Query Retrieval quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Întrebări frecvente
Ce este rescrierea interogărilor și regăsirea interogărilor multiple?
Rescrierea interogărilor și regăsirea cu mai multe interogări sunt tehnici RAG care transformă întrebarea utilizatorului înainte de a căuta, prin reformularea ei, împărțirea în sub-întrebări sau generarea mai multor variante și îmbinarea rezultatelor acestora. Acestea contează deoarece utilizatorii pun adesea întrebări vagi, conversaționale sau cu mai multe părți, a căror formulare nu se potrivește cu documentele, iar o interogare mai bună poate scoate la iveală pasaje relevante pe care o singură căutare literală ar rata.
De ce este deosebit de importantă rescrierea interogărilor în chat-ul cu mai multe rânduri?
O continuare de genul „și în 2023?” are nevoie de istoricul conversațiilor pentru a deveni o interogare utilă de sine stătătoare.
Ce tehnică împarte o întrebare de comparație în căutări separate pentru fiecare element comparat?
Descompunerea descompune întrebările complexe sau cu mai multe părți în sub-întrebări preluate separat.
Ce face indemnul de pas înapoi?
Solicitarea pas înapoi, de la cercetătorii Google DeepMind, preia contextul general înainte de specific.
În fuziunea de rang reciproc, cum se calculează scorul unui document?
RRF însumează 1/(k + rang) peste fiecare listă care conține documentul, recompensând documentele clasate înalt în mai multe liste.
De ce este convenabil RRF pentru a îmbina rezultatele căutării vectoriale și BM25?
Deoarece RRF utilizează numai poziții de rang, poate combina liste ale căror scoruri brute nu sunt comparabile.
Continuați să învățați
Ghiduri conexe
Mai multe ghiduri alese pentru acest subiect