Mai departeUrmătorul ghid
Preinstruire continuă vs reglaj fin
Tehnic
GHID tehnic
Reglarea fină a modelelor de încorporare pentru recuperare
Reglarea fină a unui model de încorporare înseamnă antrenamentul pe perechi de interogări reale și pe documentele care le răspund, astfel încât în domeniul dvs. textul relevant să fie mai aproape unul de celălalt în spațiul vectorial decât textul irelevant.
Pe această pagină4 minute de citit
Prezentare generală
Este important pentru că calitatea regăsirii limitează calitatea RAG: dacă pasajul corect nu este preluat, modelul de limbă nu îl poate utiliza, iar înglobările de uz general lipsesc adesea vocabularul de domeniu, abrevierile și modul în care utilizatorii formulează întrebările.
Scufundare în profunzime
Un model de încorporare transformă textul într-un vector, astfel încât textele similare din punct de vedere semantic au vectori similari, de obicei măsurați prin asemănarea cosinusului. În RAG, atât interogările, cât și bucățile de document sunt încorporate, iar cele mai apropiate bucăți sunt preluate. Modelele generale sunt instruite pe internet larg și date întrebări-răspuns. Funcționează destul de bine peste tot, dar se pot lupta cu termenii specializați, numele interne ale produselor și decalajul dintre modul în care un utilizator întreabă și modul în care este scris un document. Reglarea fină reduce acest decalaj cu datele de antrenament în trei forme. Perechile pozitive sunt o întrebare și un pasaj care răspunde. Negativele din lot folosesc celelalte pasaje din același lot de antrenament ca exemple de ceea ce ar trebui să aibă un scor mai mic. Negativele dure sunt pasaje care par relevante, împărtășind cuvinte sau subiecte, dar nu răspund la întrebare. Negativele dure învață distincțiile fine care contează cel mai mult, deoarece negativele ușoare sunt deja separate de modelul de bază. Sursele bune de date includ jurnalele de căutare cu clicuri, bilete de asistență legate de articole, pagini de întrebări frecvente și interogări sintetice generate din documentele dvs. de un model de limbă. Datele sintetice sunt utile, dar trebuie filtrate, deoarece întrebările generate adesea copiază textul documentului și fac sarcina prea ușoară. O concepție greșită frecventă este că reglarea fină este prima soluție pentru recuperarea proastă. Adesea, o fragmentare mai bună, adăugarea de căutare a cuvintelor cheie, cum ar fi BM25 într-o configurație hibridă, sau adăugarea unui reranker, oferă câștiguri mai mari cu mai puțin efort. Reglajul fin este cel mai util atunci când ați măsurat un decalaj de recuperare și aveți sau puteți construi cel puțin câteva mii de perechi de calitate. O altă capcană sunt falsele negative: un negativ greu minat care de fapt răspunde la întrebare. Antrenarea modelului pentru a-l îndepărta dăunează calității. De asemenea, rețineți că schimbarea modelului de încorporare necesită reîncorporarea întregii colecții de documente, deoarece vectorii vechi și noi nu sunt comparabili.
Impact strategic
Cost și buget
Deciziile de arhitectură generează performanța și costurile de operare de ani de zile.
Decizii mai clare
Educația tehnică ajută echipele să aleagă stiva potrivită, nu doar cea mai nouă.
Controlul calității
Opțiuni de inginerie mai bune reduc incidentele de fiabilitate în producție.
Viitorul de reglare fină a modelelor de încorporare pentru recuperare
Modelele generale de încorporare continuă să se îmbunătățească referințe publice, cum ar fi MTEB, care restrânge, dar nu înlătură beneficiile adaptării domeniului, deoarece datele de referință se potrivesc rareori cu un corpus privat. Generarea de date sintetice cu modele de limbaj a făcut ca reglarea fină să fie practică pentru echipele fără seturi mari de date etichetate. Așteptați-vă la continuarea utilizării conductelor hibride în care un model de încorporare reglat se ocupă de rechemarea din prima etapă, iar un reranker se ocupă de precizie. Obiceiul de măsurare contează cel mai mult: echipele care urmăresc reamintirea pe interogări reale vor ști când reglarea fină dă roade.
Implementare în lumea reală
O companie de asigurări antrenează încorporarea în perechi de întrebări ale clienților și clauzele de poliță care le răspund, așa că „este telefonul meu acoperit dacă îl scap” preia clauza de daune accidentale.
O companie de software își folosește istoricul biletelor de asistență, împerecheând întrebarea fiecărui bilet cu agenții de articole de ajutor linkați în răspunsul lor, ca date gratuite de instruire.
O echipă de cercetare juridică exploatează negative dure prin luarea de clauze care partajează cuvinte cheie cu interogarea, dar se adresează unei jurisdicții diferite, învățând modelul să le separe.
O echipă farmaceutică generează întrebări sintetice din documente interne cu un model de limbă, le filtrează pe cele de calitate scăzută și folosește perechile pentru a antrena un model de încorporare a domeniului.
Riscuri și balustrade
Optimizarea unui punct de referință poate ascunde slăbiciunile mai largi ale sistemului.
Costurile de infrastructură și întreținere sunt adesea subestimate.
Lacunele de securitate și observabilitate pot crește pe măsură ce sistemele devin mai complexe.
Foaia de parcurs de implementare
Definiți obiectivele de latență, calitate și cost înainte de implementare.
Benchmark în condiții realiste de încărcare și date.
Monitorizarea instrumentelor pentru erori, deriva și impactul utilizatorului.
Pregătiți căile de retragere și răspuns la incident înainte de scalare.
Continuați să explorați
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Fine-Tuning Embedding Models for Retrieval quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Întrebări frecvente
Ce este reglarea fină a modelelor de încorporare pentru recuperare?
Reglarea fină a unui model de încorporare înseamnă antrenamentul pe perechi de interogări reale și pe documentele care le răspund, astfel încât în domeniul dvs. textul relevant să fie mai aproape unul de celălalt în spațiul vectorial decât textul irelevant. Este important pentru că calitatea regăsirii limitează calitatea RAG: dacă pasajul corect nu este preluat, modelul de limbă nu îl poate utiliza, iar înglobările de uz general lipsesc adesea vocabularul de domeniu, abrevierile și modul în care utilizatorii formulează întrebările.
Ce este un negativ dur în încorporarea reglajului fin?
Negativele dure împărtășesc cuvinte sau subiect cu interogarea, dar nu sunt corecte, învățând modelului distincții fine.
De ce sunt negativele dure mai utile decât negativele ușoare?
Negative ușoare sunt deja departe de interogare; negativele dure obligă modelul să învețe diferențe subtile.
Ce este un fals negativ în acest context?
Dacă un presupus negativ este de fapt relevant, antrenamentul împinge un răspuns corect și dăunează recuperării.
Ce pierdere este folosită în mod obișnuit pentru antrenarea modelelor de încorporare pe perechi de interogare-pasaj?
Pierderile contrastante marchează pozitiv față de negativele în lot și dure, împingând pozitivul în vârf.
După ce treceți la un model de încorporare nou reglat, ce trebuie să faceți cu indexul documentului?
Vectorii din diferite modele nu sunt comparabili, așa că întreaga colecție trebuie reîncorporată.
Continuați să învățați
Ghiduri conexe
Mai multe ghiduri alese pentru acest subiect