VolgendeVolgende gids
Aandacht voor meerdere zoekopdrachten
Taal AI
Technische GIDS
Het herschrijven van zoekopdrachten en het ophalen van meerdere zoekopdrachten zijn RAG-technieken die de vraag van de gebruiker transformeren voordat deze wordt gezocht, door deze opnieuw te formuleren, op te splitsen in subvragen, of door verschillende varianten te genereren en de resultaten ervan samen te voegen.
Ze zijn van belang omdat gebruikers vaak vage, conversatievragen of uit meerdere delen bestaande vragen stellen waarvan de bewoordingen niet overeenkomen met de documenten, en een betere zoekopdracht kan relevante passages naar voren brengen die een enkele letterlijke zoekopdracht zou missen.
De kwaliteit van het ophalen is sterk afhankelijk van de zoekopdracht. Gebruikers schrijven korte, dubbelzinnige of conversatievragen, terwijl documenten hun eigen woordenschat gebruiken. Querytransformatie dicht dit gat voordat er gezocht wordt. De eenvoudigste vorm is herschrijven: een LLM verandert de boodschap van de gebruiker in een duidelijkere zoekopdracht. Dit is essentieel in chat met meerdere beurten, waar vervolgacties als "en in 2023?" betekenen niets zonder geschiedenis, dus condenseert het systeem het gesprek tot een op zichzelf staande vraag. Decompositie splitst een complexe vraag op in subvragen die afzonderlijk kunnen worden opgehaald, wat handig is voor vergelijkingen of vragen met meerdere sprongen. Step-back prompting, beschreven door Google DeepMind-onderzoekers in 2023, stelt eerst een meer algemene vraag om achtergrondprincipes te achterhalen. Bij het ophalen van meerdere zoekopdrachten worden verschillende varianten van de vraag gegenereerd, wordt voor elke vraag gezocht en worden de resultaten samengevoegd. LangChain maakte dit populair met zijn MultiQueryRetriever. RAG-Fusion combineert meerdere zoekopdrachten met reciprocal rank fusion (RRF), een methode beschreven door Cormack, Clarke en Buettcher in 2009, die elk document een score geeft door 1/(k + rang) op te tellen over de resultaatlijsten. Documenten die hoog in meerdere lijsten voorkomen, stijgen naar de top zonder dat er vergelijkbare ruwe scores nodig zijn. Een verwante techniek, HyDE (Hypothetical Document Embeddings, Gao en collega's, 2022), laat het model een hypothetisch antwoord schrijven en dat inbedden in plaats van de vraag, omdat een antwoordvormige tekst vaak dichter bij echte antwoordpassages in de inbeddingsruimte staat. Misvattingen: meer zoekopdrachten zijn niet altijd beter. Elke variant voegt latentie en kosten toe, en slecht gegenereerde varianten kunnen afwijken van de bedoeling van de gebruiker en irrelevante documenten binnenhalen. Herschrijven kan ook belangrijke beperkingen, zoals datums of productnamen, wegnemen. Meet de herinnering en beantwoord de kwaliteit van echte vragen voordat u deze stappen uitvoert.
Architectuurbeslissingen bepalen jarenlang de prestaties en bedrijfskosten.
Technisch onderwijs helpt teams bij het kiezen van de juiste stapel, niet alleen de nieuwste.
Betere technische keuzes verminderen het aantal betrouwbaarheidsincidenten in de productie.
Naarmate agentische RAG zich verspreidt, wordt de transformatie van zoekopdrachten steeds vaker afgehandeld door het model dat beslist waarnaar moet worden gezocht, waarbij wordt herhaald wanneer de resultaten zwak lijken, in plaats van door een vaste herschrijfstap. Dat maakt de onderliggende ideeën, ontbinding, varianten en versmelting belangrijker, ook al worden ze minder zichtbaar. Verbeteringen in inbeddingsmodellen en hybride zoeken verminderen de discrepantie in de woordenschat, maar nemen niet de noodzaak weg om dubbelzinnige of conversatievragen te verhelderen. Verwacht dat teams deze technieken selectief zullen gebruiken, geactiveerd wanneer een zoekopdracht er complex uitziet of de aanvankelijke ophaalmogelijkheid zwak is, om de kwaliteit in evenwicht te brengen met de kosten.
In een chatassistent verschijnt het vervolg "Hoe zit het met deeltijdpersoneel?" wordt herschreven in een op zichzelf staande vraag, zoals 'ouderschapsverlofbeleid voor deeltijdwerknemers', waarbij gebruik wordt gemaakt van het eerdere gesprek.
Een vraag waarbij de prijzen van twee cloudproviders worden vergeleken, wordt opgesplitst in afzonderlijke zoekopdrachten voor elke provider, en de resultaten worden gecombineerd voordat ze worden beantwoord.
Een ondersteuningsbot genereert vier bewoordingen van "mijn app blijft mij uitloggen", inclusief technische termen als het verlopen van sessies en het vernieuwen van tokens, en combineert de resultaten met wederzijdse rangfusie.
Een onderzoeksassistent gebruikt step-back-prompts om eerst naar het algemene principe achter een beperkte vraag te zoeken en vervolgens specifieke details op te halen, waarbij het model zowel achtergrond als details krijgt.
Het optimaliseren van één benchmark kan bredere systeemzwakheden verbergen.
Infrastructuur- en onderhoudskosten worden vaak onderschat.
De lacunes op het gebied van beveiliging en waarneembaarheid kunnen groter worden naarmate systemen complexer worden.
Definieer latentie-, kwaliteits- en kostendoelen vóór implementatie.
Benchmark onder realistische belasting- en gegevensomstandigheden.
Instrumentbewaking op fouten, drift en gebruikersimpact.
Bereid rollback- en incidentresponspaden voor voordat u gaat schalen.
Free newsletter
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Het herschrijven van zoekopdrachten en het ophalen van meerdere zoekopdrachten zijn RAG-technieken die de vraag van de gebruiker transformeren voordat deze wordt gezocht, door deze opnieuw te formuleren, op te splitsen in subvragen, of door verschillende varianten te genereren en de resultaten ervan samen te voegen. Ze zijn van belang omdat gebruikers vaak vage, conversatievragen of uit meerdere delen bestaande vragen stellen waarvan de bewoordingen niet overeenkomen met de documenten, en een betere zoekopdracht kan relevante passages naar voren brengen die een enkele letterlijke zoekopdracht zou missen.
Een vervolg als "en in 2023?" heeft de gespreksgeschiedenis nodig om een bruikbare, op zichzelf staande zoekopdracht te worden.
Decompositie verdeelt complexe vragen of vragen die uit meerdere delen bestaan in subvragen die afzonderlijk worden opgehaald.
Step-back prompts, van Google DeepMind-onderzoekers, halen de algemene achtergrond op vóór de details.
RRF telt 1/(k + rang) op voor elke lijst die het document bevat, waarbij documenten worden beloond die hoog in verschillende lijsten staan.
Omdat RRF alleen rangposities gebruikt, kan het lijsten combineren waarvan de ruwe scores niet vergelijkbaar zijn.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
Aandacht voor meerdere zoekopdrachten
Taal AI