Il prossimoProssima guida
Retrieval Metrics: Recall@K, MRR and nDCG
Tecnico
GUIDA TECNICA
Documento principale e recupero da piccolo a grande
Il recupero del documento principale, chiamato anche recupero da piccolo a grande, esegue la ricerca su blocchi di testo piccoli e precisi, ma trasmette al modello linguistico la sezione o il documento più grande da cui proviene ciascun pezzo.
In questa pagina4 minuti di lettura
Panoramica
È importante perché rimuove il consueto compromesso tra suddivisioni in blocchi: i blocchi piccoli corrispondono alle query in modo accurato e il genitore più grande fornisce al modello un contesto sufficiente per rispondere correttamente.
Immersione profonda
Il suddivisione in blocchi a dimensione fissa impone un compromesso. Piccoli pezzi, ad esempio alcune frasi, producono incorporamenti netti: il vettore rappresenta un'idea, quindi una query su quell'idea corrisponde strettamente ad essa. Ma un pezzo di due frasi raramente contiene un contesto sufficiente affinché il modello possa rispondere bene; può omettere la definizione di tre paragrafi prima o l'eccezione nella frase successiva. Pezzi di grandi dimensioni portano quel contesto, ma i loro incorporamenti confondono diverse idee insieme, quindi il recupero diventa meno preciso e il passaggio rilevante può essere superato da un pezzo che è semplicemente in tema. Il recupero da piccolo a grande divide i due lavori. Il sistema indicizza piccoli blocchi figlio per la ricerca e ogni figlio mantiene un puntatore a un genitore più grande: una sezione, una pagina o l'intero documento. Al momento della query trova i bambini migliori, quindi cerca e restituisce i loro genitori. Se più figli condividono un genitore, il genitore viene inviato una volta, rimuovendo così anche i duplicati. ParentDocumentRetriever di LangChain lo implementa con un archivio di vettori per i bambini e un archivio di documenti separato per i genitori. LlamaIndex offre modelli correlati: recupero della finestra della frase, che restituisce una frase corrispondente più un numero fisso di frasi vicine, e recupero con unione automatica, che sostituisce molti blocchi foglia recuperati con il loro nodo genitore condiviso quando un numero sufficiente di essi corrisponde. L’approccio tende a superare la suddivisione in blocchi di dimensioni fisse su documenti strutturati come manuali, contratti, politiche e libri di testo, dove il significato dipende dalla sezione circostante. Aiuta meno quando i documenti sono già brevi o quando i genitori sono così grandi che alcuni di loro traboccano la finestra di contesto o seppelliscono la risposta in testo irrilevante. Un malinteso comune è che questo significhi semplicemente usare pezzi più grandi. Non lo è: l'unità di recupero e l'unità di generazione hanno dimensioni deliberatamente diverse, in modo da mantenere una corrispondenza precisa senza affamare il modello dal contesto.
Impatto strategico
Costo e budget
Le decisioni relative all'architettura determinano prestazioni e costi operativi per anni.
Decisioni più chiare
La formazione tecnica aiuta i team a scegliere lo stack giusto, non solo quello più nuovo.
Controllo di qualità
Migliori scelte ingegneristiche riducono gli incidenti legati all’affidabilità nella produzione.
Il futuro del documento principale e del recupero da piccolo a grande
Il piccolo-grande sta diventando un'impostazione predefinita piuttosto che un trucco e i principali framework già espongono il recupero gerarchico o a finestre come opzioni di configurazione. Finestre di contesto più ampie riducono la penalità derivante dall’invio di genitori più grandi, il che rende il modello più economico da adottare. Rimangono domande aperte sulla scelta automatica dei confini principali, ad esempio utilizzando l'analisi del layout del documento o la segmentazione appresa invece di fare affidamento sui titoli. È sempre più combinato con i reranker e con approcci di inclusione contestuale che cercano di dare a piccole parti la consapevolezza dell'ambiente circostante al momento dell'indicizzazione. Testare i propri documenti, piuttosto che parametri di riferimento generali, rimane il modo affidabile per scegliere le dimensioni del bambino e del genitore.
Implementazione nel mondo reale
Un bot di supporto IT interno indicizza ogni passaggio di risoluzione dei problemi come un blocco figlio separato, ma quando un passaggio corrisponde restituisce l'intera procedura, quindi il modello non dice agli utenti di eseguire il passaggio 4 senza i passaggi da 1 a 3.
Uno strumento di ricerca legale abbina una singola clausola relativa ai periodi di preavviso di rescissione, quindi trasmette al modello l'intera sezione del contratto, comprese le definizioni e le eccezioni che modificano il significato della clausola.
Un assistente di corso universitario cerca blocchi a livello di frase dagli appunti delle lezioni e restituisce la pagina circostante, quindi le risposte su una formula includono anche le condizioni alle quali si applica.
Un assistente per le richieste di risarcimento assicurativo recupera diverse piccole corrispondenze da un documento di polizza, le raggruppa per genitore e invia quella sezione di polizza una volta invece di cinque frammenti sovrapposti.
Rischi e guardrail
L'ottimizzazione di un benchmark può nascondere debolezze di sistema più ampie.
I costi delle infrastrutture e della manutenzione sono spesso sottostimati.
Le lacune in termini di sicurezza e osservabilità possono aumentare man mano che i sistemi diventano più complessi.
Tabella di marcia per l'implementazione
Definire obiettivi di latenza, qualità e costi prima dell'implementazione.
Benchmark in condizioni di carico e dati realistiche.
Monitoraggio dello strumento per errori, deriva e impatto sull'utente.
Preparare percorsi di rollback e risposta agli incidenti prima della scalabilità.
Continua a esplorare
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Parent Document and Small-to-Big Retrieval quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Domande frequenti
Cos'è il documento principale e il recupero da piccolo a grande?
Il recupero del documento principale, chiamato anche recupero da piccolo a grande, esegue la ricerca su blocchi di testo piccoli e precisi, ma trasmette al modello linguistico la sezione o il documento più grande da cui proviene ciascun pezzo. È importante perché rimuove il consueto compromesso tra suddivisioni in blocchi: i blocchi piccoli corrispondono alle query in modo accurato e il genitore più grande fornisce al modello un contesto sufficiente per rispondere correttamente.
Quale compromesso fondamentale affronta il recupero da piccolo a grande?
Piccoli pezzi forniscono incorporamenti mirati ma troppo poco contesto; pezzi di grandi dimensioni forniscono contesto ma incorporamenti sfocati. Small-to-big cerca in piccolo e restituisce grande per ottenere entrambi.
In un sistema di piccole e grandi dimensioni, cosa viene incorporato e cercato al momento della query?
I bambini vengono indicizzati per una corrispondenza precisa; i genitori vengono cercati solo dopo che un bambino corrisponde.
Se tre blocchi secondari recuperati appartengono tutti alla stessa sezione principale, cosa dovrebbe fare il sistema?
Raggruppare per elemento principale significa che la sezione viene inclusa una volta, salvando i token e rimuovendo i frammenti duplicati.
In che modo ParentDocumentRetriever di LangChain memorizza i due livelli di testo?
I bambini vengono incorporati in un archivio di vettori per la ricerca, mentre i genitori completi si trovano in un archivio di documenti e vengono recuperati tramite ID.
Cosa restituisce il recupero della finestra della frase?
Il recupero della finestra della frase corrisponde a livello della frase e quindi si espande in una finestra di frasi circostanti per fornire il contesto.
Continua a imparare
Guide correlate
Altre guide selezionate per questo argomento