Hva er RAG (Retrieval-Augmented Generation)?

En gjenfinningsmetode som genererer flere søkevarianter, henter resultater for hver og slår sammen rangeringene.

Ytterligere slutningsberegning brukt under generering av respons for å forbedre kvalitet eller resonnement.

Finne relevante dokumenter eller poster fra en kunnskapskilde for en spørring.

Komprimering av kunnskap fra en stor lærermodell til en mindre elevmodell.

Mengden prosessorkraft som forbrukes mens du produserer hver respons.

Det siste tidspunktet gjenspeiles i en modells treningsdata.