Technische GIDS

Query herschrijven en meerdere query's ophalen

Het herschrijven van zoekopdrachten en het ophalen van meerdere zoekopdrachten zijn RAG-technieken die de vraag van de gebruiker transformeren voordat deze wordt gezocht, door deze opnieuw te formuleren, op te splitsen in subvragen, of door verschillende varianten te genereren en de resultaten ervan samen te voegen.

  • 3 minuten lezen
  • Laatst bijgewerkt
Op deze pagina3 minuten lezen
  1. Overzicht
  2. Diepe duik
  3. Strategische impact
  4. De toekomst van het herschrijven van zoekopdrachten en het ophalen van meerdere zoekopdrachten
  5. Implementatie in de echte wereld
  6. Risico's en vangrails
  7. Implementatie routekaart
  8. Blijf verkennen
  9. Veelgestelde vragen

Overzicht

Ze zijn van belang omdat gebruikers vaak vage, conversatievragen of uit meerdere delen bestaande vragen stellen waarvan de bewoordingen niet overeenkomen met de documenten, en een betere zoekopdracht kan relevante passages naar voren brengen die een enkele letterlijke zoekopdracht zou missen.

Diepe duik

De kwaliteit van het ophalen is sterk afhankelijk van de zoekopdracht. Gebruikers schrijven korte, dubbelzinnige of conversatievragen, terwijl documenten hun eigen woordenschat gebruiken. Querytransformatie dicht dit gat voordat er gezocht wordt. De eenvoudigste vorm is herschrijven: een LLM verandert de boodschap van de gebruiker in een duidelijkere zoekopdracht. Dit is essentieel in chat met meerdere beurten, waar vervolgacties als "en in 2023?" betekenen niets zonder geschiedenis, dus condenseert het systeem het gesprek tot een op zichzelf staande vraag. Decompositie splitst een complexe vraag op in subvragen die afzonderlijk kunnen worden opgehaald, wat handig is voor vergelijkingen of vragen met meerdere sprongen. Step-back prompting, beschreven door Google DeepMind-onderzoekers in 2023, stelt eerst een meer algemene vraag om achtergrondprincipes te achterhalen. Bij het ophalen van meerdere zoekopdrachten worden verschillende varianten van de vraag gegenereerd, wordt voor elke vraag gezocht en worden de resultaten samengevoegd. LangChain maakte dit populair met zijn MultiQueryRetriever. RAG-Fusion combineert meerdere zoekopdrachten met reciprocal rank fusion (RRF), een methode beschreven door Cormack, Clarke en Buettcher in 2009, die elk document een score geeft door 1/(k + rang) op te tellen over de resultaatlijsten. Documenten die hoog in meerdere lijsten voorkomen, stijgen naar de top zonder dat er vergelijkbare ruwe scores nodig zijn. Een verwante techniek, HyDE (Hypothetical Document Embeddings, Gao en collega's, 2022), laat het model een hypothetisch antwoord schrijven en dat inbedden in plaats van de vraag, omdat een antwoordvormige tekst vaak dichter bij echte antwoordpassages in de inbeddingsruimte staat. Misvattingen: meer zoekopdrachten zijn niet altijd beter. Elke variant voegt latentie en kosten toe, en slecht gegenereerde varianten kunnen afwijken van de bedoeling van de gebruiker en irrelevante documenten binnenhalen. Herschrijven kan ook belangrijke beperkingen, zoals datums of productnamen, wegnemen. Meet de herinnering en beantwoord de kwaliteit van echte vragen voordat u deze stappen uitvoert.

Strategische impact

Kosten en budget

Architectuurbeslissingen bepalen jarenlang de prestaties en bedrijfskosten.

Duidelijkere beslissingen

Technisch onderwijs helpt teams bij het kiezen van de juiste stapel, niet alleen de nieuwste.

Kwaliteitscontrole

Betere technische keuzes verminderen het aantal betrouwbaarheidsincidenten in de productie.

De toekomst van het herschrijven van zoekopdrachten en het ophalen van meerdere zoekopdrachten

Naarmate agentische RAG zich verspreidt, wordt de transformatie van zoekopdrachten steeds vaker afgehandeld door het model dat beslist waarnaar moet worden gezocht, waarbij wordt herhaald wanneer de resultaten zwak lijken, in plaats van door een vaste herschrijfstap. Dat maakt de onderliggende ideeën, ontbinding, varianten en versmelting belangrijker, ook al worden ze minder zichtbaar. Verbeteringen in inbeddingsmodellen en hybride zoeken verminderen de discrepantie in de woordenschat, maar nemen niet de noodzaak weg om dubbelzinnige of conversatievragen te verhelderen. Verwacht dat teams deze technieken selectief zullen gebruiken, geactiveerd wanneer een zoekopdracht er complex uitziet of de aanvankelijke ophaalmogelijkheid zwak is, om de kwaliteit in evenwicht te brengen met de kosten.

Implementatie in de echte wereld

In een chatassistent verschijnt het vervolg "Hoe zit het met deeltijdpersoneel?" wordt herschreven in een op zichzelf staande vraag, zoals 'ouderschapsverlofbeleid voor deeltijdwerknemers', waarbij gebruik wordt gemaakt van het eerdere gesprek.

Een vraag waarbij de prijzen van twee cloudproviders worden vergeleken, wordt opgesplitst in afzonderlijke zoekopdrachten voor elke provider, en de resultaten worden gecombineerd voordat ze worden beantwoord.

Een ondersteuningsbot genereert vier bewoordingen van "mijn app blijft mij uitloggen", inclusief technische termen als het verlopen van sessies en het vernieuwen van tokens, en combineert de resultaten met wederzijdse rangfusie.

Een onderzoeksassistent gebruikt step-back-prompts om eerst naar het algemene principe achter een beperkte vraag te zoeken en vervolgens specifieke details op te halen, waarbij het model zowel achtergrond als details krijgt.

Risico's en vangrails

  • Het optimaliseren van één benchmark kan bredere systeemzwakheden verbergen.

  • Infrastructuur- en onderhoudskosten worden vaak onderschat.

  • De lacunes op het gebied van beveiliging en waarneembaarheid kunnen groter worden naarmate systemen complexer worden.

Implementatie routekaart

  1. Definieer latentie-, kwaliteits- en kostendoelen vóór implementatie.

  2. Benchmark onder realistische belasting- en gegevensomstandigheden.

  3. Instrumentbewaking op fouten, drift en gebruikersimpact.

  4. Bereid rollback- en incidentresponspaden voor voordat u gaat schalen.

Blijf verkennen

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Query Rewriting and Multi-Query Retrieval quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Quiz starten

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Veelgestelde vragen

Wat is het herschrijven van zoekopdrachten en het ophalen van meerdere zoekopdrachten?

Het herschrijven van zoekopdrachten en het ophalen van meerdere zoekopdrachten zijn RAG-technieken die de vraag van de gebruiker transformeren voordat deze wordt gezocht, door deze opnieuw te formuleren, op te splitsen in subvragen, of door verschillende varianten te genereren en de resultaten ervan samen te voegen. Ze zijn van belang omdat gebruikers vaak vage, conversatievragen of uit meerdere delen bestaande vragen stellen waarvan de bewoordingen niet overeenkomen met de documenten, en een betere zoekopdracht kan relevante passages naar voren brengen die een enkele letterlijke zoekopdracht zou missen.

Waarom is het herschrijven van zoekopdrachten vooral belangrijk in chat met meerdere beurten?

Een vervolg als "en in 2023?" heeft de gespreksgeschiedenis nodig om een ​​bruikbare, op zichzelf staande zoekopdracht te worden.

Welke techniek splitst een vergelijkingsvraag op in afzonderlijke zoekopdrachten voor elk item dat wordt vergeleken?

Decompositie verdeelt complexe vragen of vragen die uit meerdere delen bestaan ​​in subvragen die afzonderlijk worden opgehaald.

Wat doet stap-terug-prompts?

Step-back prompts, van Google DeepMind-onderzoekers, halen de algemene achtergrond op vóór de details.

Hoe wordt bij wederzijdse rangschikking de score van een document berekend?

RRF telt 1/(k + rang) op voor elke lijst die het document bevat, waarbij documenten worden beloond die hoog in verschillende lijsten staan.

Waarom is RRF handig voor het samenvoegen van vectorzoekopdrachten en BM25-resultaten?

Omdat RRF alleen rangposities gebruikt, kan het lijsten combineren waarvan de ruwe scores niet vergelijkbaar zijn.