Ci bi mu melGis bi ci topp
Këyitu waajur ak seetlu bu ndaw ba bu mag
Xarala
GUIDE teknik
Recuperation contextual mooy pexem RAG biy njëkka joxe leeral yu gàtt, yu xam dokimaa ci bépp pàcc balaa ñu koy dugal ci biir, indexe ko ngir seetlu baatu-caabi, kon pàcc bi dafay am solo suñu ko jàngee boppam.
Déglul tegtal biiIA-nettali · ~3 min
Dafa am solo ndax chunks yi dañuy faral di ñàkk ay leeral yu am solo suñu leen xaajalee ci seen këyit, lu melni ban liggéeyukaay, produit wala diir bi ñuy wax, te ñàkk googu dafay tax retriever bi ñàkk passage bu dëggu bi.
Standard RAG dafay xaaj dokimaa yi ay pàcc, dugal pàcc bu nekk, ba noppi jël pàcc yi gëna niro ak laaj bi. Jafe-jafe bi mooy xaaj bi dafay dindi contexte bi. Benn wàll bu wax ni "revenu liggéeyukaay bi dafa yokk 3%" waxul ban liggéeyukaay wala ban jamono, kon seetlu semantik wala seetlu baat bu am solo mënul ko méngale ak laaj bu leen tuddee. Anthropic dafa leeralal seet ci contexte ci weeru septembre 2024. Ngir chunk bu nekk, ñu jox benn model làkk këyit bi yépp ak chunk bi, ñu laaj ko mu bind benn contexte bu gàtt (dafay nuru lu tollu ci 50 ba 100 tokens) biy teg chunk bi ci biir këyit bi. Kontekst boobu ñu ngi ko jiitu ci chunk bi. Ginaaw loolu ñu jëfandikoo bind biñ boole ci ñaari limu: limu samp gi (limu samp gi) ak limu baatu-caabi BM25 (BM25 ci limu). Ci waxtu laajte, dañuy boole resultaa yi ci ñoom ñaar, te su ko bëggee ñu jëlaat rang bi ci kandidaa yi gëna mag. Ci jàngat yiñ xamle ci Anthropic ci ay done yu bari, embeddings contextuel ak BM25 wàññi nañu top-20 njuumte ci 49 pursaa buñu ko méngale ak embeddings standard, ba noppi yokk reranking indi wàññi gi ci lu tollu ci 67 pursaa. Resultaa yi nga am ci sa done mën nañu wuute, kon dafay baax nga natt ko. Njëgglangi nekk ci waxtu indexation: benn model call ci chunk bu nekk, bu nekk ak këyit bi yépp. Cache bu gaaw moo gëna xéewale, ndax benn yoon lañuy cache këyit bi ba noppi jëfandikoowaat ko ci pàcc yépp. Juumte yi nga wara moytu: contexte biñ yokk dañu koy jëfandikoo ngir seet, te mën nga tànn ndax danga ko wan generatër bi am déet. Du wecci chunking bu baax, ak ngir xam-xam bu ndaw bu méngoo ak palanteer bi ci model bi, yónnee lépp ci saasi mën na gëna yomba bépp pipeline retrieval.
Benn pàcc bu juge ci rapoor bu ñeenti fan yi dafa wax rek ni "Revenu bi dafa yokk 3% ci trimestre bi weesu"; recuperation contextuelle prepend ni dafay joge ci benn sosiete Q2 filing, kon seetlu tur sosiete boobu ak trimestre gis ko.
Ci benn téere liggéeykat, amna pàcc bu wax "Lii dafay am ginaaw 90 fan" dafa am prefix buy leeral ni mingi joge ci wàll wiñ wax ci yelleefu liggéey ci fu sori.
Jàppalekatu këyitu losisel bi dafay yokk muy wax ni benn pàccu tabb dafa bokk ci xeetu 3 bu benn API, wàññi jaxasoo bi ak mbind yu noonu mel ci xeetu 2 bi.
Base xam-xam buy jàppale prefixes troubleshooting chunks ak model produit bi ñuy muur, kon laaj yi jëm ci benn model taxaw jël jéego ngir beneen.
Seet ci contexte dafay wane tendaas bu gëna yaatu di dugal xaalis bu bari ci diiru indexation ngir gëna wóorloo diiru laaj bi. Ginaaw woote model dafay gëna xéewale, cache nekk na standard, yokk context ci chunks mën na nekk jéego buñ jagleel ci pipeline RAG yu bari. Palanteer yu gëna gudd yi dañuy wàññi soxla seetlu ci dajale yu ndaw waaye du ci yu mag, kon pexe yu mel ni yii dañu wara wéy di am njariñ ci base xam-xam yu mag. Xaarandi yeneen boole ak segg metadata, graf xam-xam ak seetlu interaction yu mujj, ak ekip yuy tànn ci nattug fàttaliku moo gëna modd.
Bulletin bu amul fayda
Ñatti jaar-jaari IA yuñ firndeel bis bu nekk ci ayu-bis bi, ñu bind leen ci Àngle bu leer. Gratis ba fàww, amul yëgle.
Benn email bis bu nekk ci ayu-bis bi. Benn klik nga dindi abonemaa bi. Dunu musa jaay wala séddoo sa adres.
Nattal sa bopp
Feedback ci saasi ci bépp tontu, ak sertifikaa buñ mëna séddoo ak ID buñ mëna saytu soo jàllee ci njàng mi.
Jàppale njàngum IA te doo fay. AI Understanding mbootaay la buy def te Yàlla tax — amul yëgle, amul paywall, musul am. Defal ab sarax
Recuperation contextual mooy pexem RAG biy njëkka joxe leeral yu gàtt, yu xam dokimaa ci bépp pàcc balaa ñu koy dugal ci biir, indexe ko ngir seetlu baatu-caabi, kon pàcc bi dafay am solo suñu ko jàngee boppam. Dafa am solo ndax chunks yi dañuy faral di ñàkk ay leeral yu am solo suñu leen xaajalee ci seen këyit, lu melni ban liggéeyukaay, produit wala diir bi ñuy wax, te ñàkk googu dafay tax retriever bi ñàkk passage bu dëggu bi.
Xaajale dafay dindi contexte bi ko wër, kon benn chunk buñ tàqale mën na baña wax ci entite bi wala diir bi laaj bi di laaj.
Dañuy jox model bi këyit wi yépp ak pàcc bi, ba noppi mu delloo ab muy tënk bu gàtt buy def pàcc bi ci biir këyit bi.
Bokk nañu ci anam yi ñu koy defee ak BM25, ba noppi boole seeni resultaa.
Anthropic xamlena luy tollu ci 49 pursaa ci wàññeeku, yokk ba lu tollu ci 67 pursaa ci ranking. Resultaa yi ci yeneen done mën nañu wuute.
Wootu chunk bu nekk dafay àndaale ak këyit wi yépp; cache prefix biñ bokk dafay moytu fay njëg bi yépp lu bari yoon.
Weyal di jàng
Tann nañu yeneen njiit ngir topic bii
Ci bi mu melGis bi ci topp
Këyitu waajur ak seetlu bu ndaw ba bu mag
Xarala