Il prossimoProssima guida
Attenzione multi-query
Intelligenza artificiale linguistica
GUIDA TECNICA
La riscrittura delle query e il recupero multi-query sono tecniche RAG che trasformano la domanda dell'utente prima della ricerca, riformulandola, suddividendola in sottodomande o generando diverse varianti e unendo i risultati.
Ascolta questa guidaNarrato dall'IA · ~3 min
Sono importanti perché gli utenti spesso pongono domande vaghe, colloquiali o composte da più parti, la cui formulazione non corrisponde ai documenti, e una query migliore può far emergere passaggi rilevanti che una singola ricerca letterale non potrebbe cogliere.
La qualità del recupero dipende fortemente dalla query. Gli utenti scrivono domande brevi, ambigue o colloquiali, mentre i documenti utilizzano il proprio vocabolario. La trasformazione delle query colma questa lacuna prima che avvenga la ricerca. La forma più semplice è la riscrittura: un LLM trasforma il messaggio dell'utente in una query di ricerca più chiara. Ciò è essenziale nelle chat a più turni, dove follow-up come "e nel 2023?" non significano nulla senza la cronologia, quindi il sistema condensa la conversazione in una query autonoma. La scomposizione divide una domanda complessa in sottodomande che possono essere recuperate separatamente, utili per confronti o domande multi-hop. Il suggerimento di fare un passo indietro, descritto dai ricercatori Google DeepMind nel 2023, pone prima una domanda più generale per recuperare i principi di base. Il recupero di più query genera diverse varianti della domanda, esegue una ricerca per ciascuna e unisce i risultati. LangChain lo ha reso popolare con il suo MultiQueryRetriever. RAG-Fusion combina più query con la reciproca fusione dei ranghi (RRF), un metodo descritto da Cormack, Clarke e Buettcher nel 2009, che assegna un punteggio a ciascun documento sommando 1/(k + rango) negli elenchi di risultati. I documenti che appaiono in alto in diversi elenchi salgono in cima senza bisogno di punteggi grezzi comparabili. Una tecnica correlata, HyDE (Hypothetical Document Embeddings, Gao e colleghi, 2022), prevede che il modello scriva una risposta ipotetica e la incorpori al posto della domanda, perché un testo a forma di risposta spesso si avvicina ai passaggi della risposta reale nello spazio di incorporamento. Idee sbagliate: più query non sono sempre migliori. Ogni variante aggiunge latenza e costi e le varianti generate in modo inadeguato possono allontanarsi dalle intenzioni dell'utente, inserendo documenti irrilevanti. La riscrittura può anche eliminare vincoli importanti come date o nomi di prodotti. Misurare il ricordo e la qualità delle risposte a domande reali prima di adottare questi passaggi.
In un assistente chat, il follow-up "e per il personale part-time?" viene riscritto in una query autonoma come "politica sul congedo parentale per i dipendenti a tempo parziale" utilizzando la conversazione precedente.
Una domanda che confronta i prezzi di due fornitori di servizi cloud viene scomposta in ricerche separate per ciascun fornitore e i risultati vengono combinati prima della risposta.
Un bot di supporto genera quattro frasi del tipo "la mia app continua a disconnettermi", inclusi termini tecnici come scadenza della sessione e aggiornamento del token, e fonde i risultati con la fusione reciproca dei ranghi.
Un assistente di ricerca utilizza il suggerimento step-back per cercare prima il principio generale dietro una domanda ristretta, quindi recupera i dettagli specifici, fornendo al modello sia il contesto che i dettagli.
Man mano che il RAG agentico si diffonde, la trasformazione delle query viene gestita sempre più dal modello che decide cosa cercare, iterando quando i risultati sembrano deboli, piuttosto che da una fase di riscrittura fissa. Ciò rende le idee sottostanti, la scomposizione, le varianti e la fusione, più importanti anche se diventano meno visibili. I miglioramenti nei modelli di incorporamento e nella ricerca ibrida riducono alcune discrepanze nel vocabolario ma non eliminano la necessità di chiarire domande ambigue o di conversazione. Ci si aspetta che i team utilizzino queste tecniche in modo selettivo, attivate quando una query sembra complessa o il recupero iniziale è debole, per bilanciare la qualità con i costi.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
La riscrittura delle query e il recupero multi-query sono tecniche RAG che trasformano la domanda dell'utente prima della ricerca, riformulandola, suddividendola in sottodomande o generando diverse varianti e unendo i risultati. Sono importanti perché gli utenti spesso pongono domande vaghe, colloquiali o composte da più parti, la cui formulazione non corrisponde ai documenti, e una query migliore può far emergere passaggi rilevanti che una singola ricerca letterale non potrebbe cogliere.
Un seguito del tipo "e nel 2023?" necessita che la cronologia delle conversazioni diventi un'utile query autonoma.
La scomposizione suddivide le domande complesse o composte da più parti in sottodomande recuperate separatamente.
Il suggerimento di fare un passo indietro, da parte dei ricercatori Google DeepMind, recupera il contesto generale prima dei dettagli specifici.
RRF somma 1/(k + rango) su ogni elenco contenente il documento, premiando i documenti classificati in alto in diversi elenchi.
Poiché RRF utilizza solo le posizioni in classifica, può combinare elenchi i cui punteggi grezzi non sono comparabili.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Attenzione multi-query
Intelligenza artificiale linguistica