Technische GIDS

Bovenliggend document en ophalen van klein tot groot

Het ophalen van bovenliggende documenten, ook wel het ophalen van klein naar groot genoemd, doorzoekt kleine, nauwkeurige tekstfragmenten, maar geeft het taalmodel de grotere sectie of het grotere document waaruit elk fragment afkomstig is.

Luister naar deze gidsAI-verteld · ~3 min

Op deze pagina4 minuten lezen
  1. Overzicht
  2. Diepe duik
  3. Implementatie in de echte wereld
  4. De toekomst van bovenliggende documenten en ophalen van klein tot groot
  5. Het in de praktijk brengen
  6. Blijf verkennen
  7. Veelgestelde vragen

Overzicht

Het is belangrijk omdat het de gebruikelijke afweging tussen chunking wegneemt: kleine chunks komen nauwkeurig overeen met zoekopdrachten, en de grotere ouder geeft het model voldoende context om correct te antwoorden.

Diepe duik

Chunking met een vaste grootte dwingt een afweging af. Kleine stukjes, bijvoorbeeld een paar zinnen, zorgen voor scherpe inbedding: de vector vertegenwoordigt één idee, dus een vraag over dat idee komt er nauw mee overeen. Maar een brok van twee zinnen bevat zelden voldoende context om het model goed te laten antwoorden; het kan de definitie drie alinea's eerder of de uitzondering in de volgende zin weglaten. Grote stukken bevatten die context, maar hun inbedding zorgt ervoor dat meerdere ideeën samenkomen, waardoor het terugvinden minder nauwkeurig wordt en de relevante passage kan worden overtroffen door een stuk dat alleen maar over het onderwerp gaat. Bij het ophalen van klein naar groot worden de twee taken gesplitst. Het systeem indexeert kleine onderliggende delen om te zoeken, en elk kind houdt een verwijzing bij naar een grotere ouder: een sectie, een pagina of het hele document. Tijdens het zoeken worden de beste kinderen gevonden, vervolgens worden de ouders opgezocht en teruggestuurd. Als meerdere kinderen één ouder delen, wordt de ouder één keer verzonden, waardoor ook duplicaten worden verwijderd. LangChain's ParentDocumentRetriever implementeert dit met een vectorarchief voor kinderen en een apart documentarchief voor ouders. LlamaIndex biedt verwante patronen: het ophalen van zinvensters, dat een overeenkomende zin plus een vast aantal aangrenzende zinnen retourneert, en het automatisch samenvoegen van ophaalacties, waarbij veel opgehaalde leaf-chunks worden vervangen door hun gedeelde bovenliggende knooppunt wanneer er voldoende overeenkomen. Deze aanpak heeft de neiging om het opdelen van gestructureerde documenten met een vaste grootte, zoals handleidingen, contracten, beleid en schoolboeken, te verslaan, waarbij de betekenis afhangt van de omringende sectie. Het helpt minder als de documenten al kort zijn, of als de ouders zo groot zijn dat een paar ervan het contextvenster overstromen of het antwoord in irrelevante tekst begraven. Een veel voorkomende misvatting is dat hier alleen maar grotere stukken worden gebruikt. Dat is niet zo: de ophaaleenheid en de generatie-eenheid hebben opzettelijk verschillende afmetingen, zodat u nauwkeurig kunt blijven matchen zonder het contextmodel uit te hongeren.

Implementatie in de echte wereld

Een interne IT-helpbot indexeert elke stap voor probleemoplossing als een afzonderlijk onderliggend deel, maar wanneer een stap overeenkomt, retourneert deze de hele procedure, zodat het model gebruikers niet vertelt stap 4 uit te voeren zonder stappen 1 tot en met 3.

Een juridisch onderzoeksinstrument vergelijkt één enkele clausule over opzegtermijnen en geeft het model vervolgens het volledige contractgedeelte door, inclusief de definities en uitzonderingen die veranderen wat de clausule betekent.

Een universitaire cursusassistent zoekt fragmenten op zinsniveau uit collegeaantekeningen en retourneert de omringende pagina, zodat antwoorden over een formule ook de voorwaarden bevatten waaronder deze van toepassing is.

Een schadeassistent haalt meerdere kleine overeenkomsten uit één polisdocument, groepeert ze op ouder en verzendt dat polisgedeelte één keer in plaats van vijf overlappende fragmenten.

De toekomst van bovenliggende documenten en ophalen van klein tot groot

Van klein naar groot wordt eerder een standaard dan een truc, en grote raamwerken bieden al hiërarchisch of vensters ophalen als configuratie-opties. Grotere contextvensters verminderen de straf voor het sturen van grotere ouders, waardoor het patroon goedkoper is om over te nemen. Er blijven open vragen bestaan ​​over het automatisch kiezen van bovenliggende grenzen, bijvoorbeeld door gebruik te maken van documentlay-outanalyse of aangeleerde segmentatie in plaats van te vertrouwen op koppen. Het wordt steeds vaker gecombineerd met rerankers en met contextuele inbeddingsbenaderingen die proberen kleine stukjes bewustzijn te geven over hun omgeving tijdens het indexeren. Testen op uw eigen documenten, in plaats van op algemene benchmarks, blijft de betrouwbare manier om de kinder- en oudermaten te kiezen.

Het in de praktijk brengen

Waarom het ertoe doet

  • Kosten en budget. Architectuurbeslissingen bepalen jarenlang de prestaties en bedrijfskosten.
  • Duidelijkere beslissingen. Technisch onderwijs helpt teams bij het kiezen van de juiste stapel, niet alleen de nieuwste.
  • Kwaliteitscontrole. Betere technische keuzes verminderen het aantal betrouwbaarheidsincidenten in de productie.

Pas op voor

  • Het optimaliseren van één benchmark kan bredere systeemzwakheden verbergen.
  • Infrastructuur- en onderhoudskosten worden vaak onderschat.
  • De lacunes op het gebied van beveiliging en waarneembaarheid kunnen groter worden naarmate systemen complexer worden.

Volgende stappen

  1. Definieer latentie-, kwaliteits- en kostendoelen vóór implementatie.
  2. Benchmark onder realistische belasting- en gegevensomstandigheden.
  3. Instrumentbewaking op fouten, drift en gebruikersimpact.
  4. Bereid rollback- en incidentresponspaden voor voordat u gaat schalen.

Blijf verkennen

Gratis nieuwsbrief

Ontvang de dagelijkse AI-briefing

Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.

Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.

Test jezelf

Take the Parent Document and Small-to-Big Retrieval quiz

Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.

Quiz starten

Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie

Veelgestelde vragen

Wat is bovenliggend document en ophalen van klein naar groot?

Het ophalen van bovenliggende documenten, ook wel het ophalen van klein naar groot genoemd, doorzoekt kleine, nauwkeurige tekstfragmenten, maar geeft het taalmodel de grotere sectie of het grotere document waaruit elk fragment afkomstig is. Het is belangrijk omdat het de gebruikelijke afweging tussen chunking wegneemt: kleine chunks komen nauwkeurig overeen met zoekopdrachten, en de grotere ouder geeft het model voldoende context om correct te antwoorden.

Welke belangrijke afweging wordt er gemaakt bij het ophalen van kleine tot grote bestanden?

Kleine stukjes bieden gerichte inbedding, maar te weinig context; grote stukken geven context, maar wazige inbedding. Van klein naar groot zoekt klein en retourneert groot om beide te krijgen.

Wat wordt er in een systeem van klein tot groot ingebed en doorzocht tijdens de zoekopdracht?

Kinderen worden geïndexeerd voor nauwkeurige matching; ouders worden pas opgezocht nadat een kind matcht.

Als drie opgehaalde onderliggende chunks allemaal tot dezelfde bovenliggende sectie behoren, wat moet het systeem dan doen?

Groeperen op ouder betekent dat de sectie één keer wordt opgenomen, waardoor tokens worden opgeslagen en dubbele fragmenten worden verwijderd.

Hoe slaat de ParentDocumentRetriever van LangChain de twee tekstniveaus op?

Kinderen worden in een vectoropslag ingebed om te zoeken, terwijl volwaardige ouders in een documentopslag zitten en worden opgehaald op basis van ID.

Wat levert het ophalen van zinsvensters op?

Het ophalen van zinvensters komt overeen op zinsniveau en breidt zich vervolgens uit naar een venster met omringende zinnen om context te bieden.