GUIDE teknik

Recuperation contextuelle

Recuperation contextual mooy pexem RAG biy njëkka joxe leeral yu gàtt, yu xam dokimaa ci bépp pàcc balaa ñu koy dugal ci biir, indexe ko ngir seetlu baatu-caabi, kon pàcc bi dafay am solo suñu ko jàngee boppam.

Déglul tegtal biiIA-nettali · ~3 min

Ci xët wii4 simili jàng
  1. Résumé
  2. Plongeur bu xóot
  3. Doxal ci àdduna dëgg
  4. Ëlëgu seetlu ci muy tekki
  5. Teg ko ci jëf
  6. Weyal di banneexu
  7. Laaj yi ñuy faral di laaj

Résumé

Dafa am solo ndax chunks yi dañuy faral di ñàkk ay leeral yu am solo suñu leen xaajalee ci seen këyit, lu melni ban liggéeyukaay, produit wala diir bi ñuy wax, te ñàkk googu dafay tax retriever bi ñàkk passage bu dëggu bi.

Plongeur bu xóot

Standard RAG dafay xaaj dokimaa yi ay pàcc, dugal pàcc bu nekk, ba noppi jël pàcc yi gëna niro ak laaj bi. Jafe-jafe bi mooy xaaj bi dafay dindi contexte bi. Benn wàll bu wax ni "revenu liggéeyukaay bi dafa yokk 3%" waxul ban liggéeyukaay wala ban jamono, kon seetlu semantik wala seetlu baat bu am solo mënul ko méngale ak laaj bu leen tuddee. Anthropic dafa leeralal seet ci contexte ci weeru septembre 2024. Ngir chunk bu nekk, ñu jox benn model làkk këyit bi yépp ak chunk bi, ñu laaj ko mu bind benn contexte bu gàtt (dafay nuru lu tollu ci 50 ba 100 tokens) biy teg chunk bi ci biir këyit bi. Kontekst boobu ñu ngi ko jiitu ci chunk bi. Ginaaw loolu ñu jëfandikoo bind biñ boole ci ñaari limu: limu samp gi (limu samp gi) ak limu baatu-caabi BM25 (BM25 ci limu). Ci waxtu laajte, dañuy boole resultaa yi ci ñoom ñaar, te su ko bëggee ñu jëlaat rang bi ci kandidaa yi gëna mag. Ci jàngat yiñ xamle ci Anthropic ci ay done yu bari, embeddings contextuel ak BM25 wàññi nañu top-20 njuumte ci 49 pursaa buñu ko méngale ak embeddings standard, ba noppi yokk reranking indi wàññi gi ci lu tollu ci 67 pursaa. Resultaa yi nga am ci sa done mën nañu wuute, kon dafay baax nga natt ko. Njëgglangi nekk ci waxtu indexation: benn model call ci chunk bu nekk, bu nekk ak këyit bi yépp. Cache bu gaaw moo gëna xéewale, ndax benn yoon lañuy cache këyit bi ba noppi jëfandikoowaat ko ci pàcc yépp. Juumte yi nga wara moytu: contexte biñ yokk dañu koy jëfandikoo ngir seet, te mën nga tànn ndax danga ko wan generatër bi am déet. Du wecci chunking bu baax, ak ngir xam-xam bu ndaw bu méngoo ak palanteer bi ci model bi, yónnee lépp ci saasi mën na gëna yomba bépp pipeline retrieval.

Doxal ci àdduna dëgg

Benn pàcc bu juge ci rapoor bu ñeenti fan yi dafa wax rek ni "Revenu bi dafa yokk 3% ci trimestre bi weesu"; recuperation contextuelle prepend ni dafay joge ci benn sosiete Q2 filing, kon seetlu tur sosiete boobu ak trimestre gis ko.

Ci benn téere liggéeykat, amna pàcc bu wax "Lii dafay am ginaaw 90 fan" dafa am prefix buy leeral ni mingi joge ci wàll wiñ wax ci yelleefu liggéey ci fu sori.

Jàppalekatu këyitu losisel bi dafay yokk muy wax ni benn pàccu tabb dafa bokk ci xeetu 3 bu benn API, wàññi jaxasoo bi ak mbind yu noonu mel ci xeetu 2 bi.

Base xam-xam buy jàppale prefixes troubleshooting chunks ak model produit bi ñuy muur, kon laaj yi jëm ci benn model taxaw jël jéego ngir beneen.

Ëlëgu seetlu ci muy tekki

Seet ci contexte dafay wane tendaas bu gëna yaatu di dugal xaalis bu bari ci diiru indexation ngir gëna wóorloo diiru laaj bi. Ginaaw woote model dafay gëna xéewale, cache nekk na standard, yokk context ci chunks mën na nekk jéego buñ jagleel ci pipeline RAG yu bari. Palanteer yu gëna gudd yi dañuy wàññi soxla seetlu ci dajale yu ndaw waaye du ci yu mag, kon pexe yu mel ni yii dañu wara wéy di am njariñ ci base xam-xam yu mag. Xaarandi yeneen boole ak segg metadata, graf xam-xam ak seetlu interaction yu mujj, ak ekip yuy tànn ci nattug fàttaliku moo gëna modd.

Teg ko ci jëf

Lu tax mu am solo

  • Njëgg ak budget. Dogal yi architecture di jël dañuy indi njariñ ak njëgu liggéey bi ay at ci ginaaw.
  • dogal yu gëna leer. Njàngalem xarala yi dafay jàppale ekip yi ñu tànn li gën, te baña yam ci li gëna bees daal.
  • Xool kalite. Tanneef yu gëna baax ci wàllu ingeñër dina wàññi jafe-jafe yi ci wàllu wóor ci liggéey bi.

Moytul

  • Optimize benn benchmark mën na nëbb ñakk kattan yu gëna yaatu ci sistem bi.
  • Njëg li ñuy fay ci infrastructure yi ak ci toppatoo dañuy faral di suufeel.
  • Bu sistem yi di gëna xawa jafee xam, jafe-jafe yi am ci wàllu kaaraange ak seetlu mën nañu gëna bari.

Jéego yi ci topp

  1. Mandargal latency, kalite, ak njëg yi laata ngay jëfandikoo.
  2. Benchmark ci biir sargal ak done yu dëggu.
  3. Jumtukaay bi di saytu njuumte yi, derive bi ak njeextalu jëfandikukat bi.
  4. Waajal rollback ak yooni tontu ci jafe-jafe yi laata ngay eskale.

Weyal di banneexu

Bulletin bu amul fayda

Jàngal xibaar AI bu bes

Ñatti jaar-jaari IA yuñ firndeel bis bu nekk ci ayu-bis bi, ñu bind leen ci Àngle bu leer. Gratis ba fàww, amul yëgle.

Benn email bis bu nekk ci ayu-bis bi. Benn klik nga dindi abonemaa bi. Dunu musa jaay wala séddoo sa adres.

Nattal sa bopp

Take the Contextual Retrieval quiz

Feedback ci saasi ci bépp tontu, ak sertifikaa buñ mëna séddoo ak ID buñ mëna saytu soo jàllee ci njàng mi.

Tambalil quiz

Jàppale njàngum IA te doo fay. AI Understanding mbootaay la buy def te Yàlla tax — amul yëgle, amul paywall, musul am. Defal ab sarax

Laaj yi ñuy faral di laaj

Luy Recuperation contextuelle?

Recuperation contextual mooy pexem RAG biy njëkka joxe leeral yu gàtt, yu xam dokimaa ci bépp pàcc balaa ñu koy dugal ci biir, indexe ko ngir seetlu baatu-caabi, kon pàcc bi dafay am solo suñu ko jàngee boppam. Dafa am solo ndax chunks yi dañuy faral di ñàkk ay leeral yu am solo suñu leen xaajalee ci seen këyit, lu melni ban liggéeyukaay, produit wala diir bi ñuy wax, te ñàkk googu dafay tax retriever bi ñàkk passage bu dëggu bi.

Ban jafe-jafe la seet ci muy saafara?

Xaajale dafay dindi contexte bi ko wër, kon benn chunk buñ tàqale mën na baña wax ci entite bi wala diir bi laaj bi di laaj.

naka lañuy defaree contexte bu chunk bu nekk?

Dañuy jox model bi këyit wi yépp ak pàcc bi, ba noppi mu delloo ab muy tënk bu gàtt buy def pàcc bi ci biir këyit bi.

Ban ñaari limu jot mbindu chunk biñ tënk ci anamu Anthropic?

Bokk nañu ci anam yi ñu koy defee ak BM25, ba noppi boole seeni resultaa.

Sunu sukkandikoo ci jàngat yiñ xamle ci Anthropic, lu tollu ci ñaata la embeddings yu jëm ci BM25 wàññi top-20 njuumte ci seet?

Anthropic xamlena luy tollu ci 49 pursaa ci wàññeeku, yokk ba lu tollu ci 67 pursaa ci ranking. Resultaa yi ci yeneen done mën nañu wuute.

Lan moo waral cache bu gaaw bi gëna xéewale seet ci contexte?

Wootu chunk bu nekk dafay àndaale ak këyit wi yépp; cache prefix biñ bokk dafay moytu fay njëg bi yépp lu bari yoon.