āļāđāļāđāļāļāļģāđāļāļ°āļāļģāļāđāļāđāļ
RAG āđāļāļāđāļāđāļāļāļģāđāļĢāđāļĨāļ°āļāļēāļĢāļĢāđāļēāļāđāļāļāļāļķāļāļāđāļāļĄāļđāļĨāđāļāļāđāļŠāļĢāļīāļĄ
āđāļāļāļāļīāļ
āļāļđāđāļĄāļ·āļ AI āļ āļēāļĐāļē
Self-RAG learns when to retrieve and uses reflection tokens to assess passages and generated segments.
āļāļąāļāļāļģāđāļāļ°āļāļģāļāļĩāđāļāļĢāļĢāļĒāļēāļĒāđāļāļĒ AI · ~2 min
These critiques can guide generation, but they are model predictions rather than independent proof that an answer is correct.
Self-RAG, introduced by Asai and colleagues in 2023, interleaves generation with learned retrieval and critique decisions. Retrieve tokens indicate whether external passages should be fetched. IsRelevant evaluates a passage's relevance; IsSupported predicts whether the generated segment is supported; IsUseful assesses response utility. The method can make retrieval decisions as generation progresses, rather than using only one fixed retrieval step for the whole response. It is compared with fixed-retrieval baselines in the paper, not proof that every other RAG system always retrieves or never checks evidence. Critiques influence candidate selection and can improve results in studied settings, but predicted support can be mistaken and still needs evaluation.
Comparing adaptive retrieval with a baseline that retrieves for every input.
Using predicted passage relevance to score alternative evidence contexts.
Weighting predicted support when choosing generated answer segments.
Evaluating support judgments against independently checked references.
āļāļēāļĢāļāļķāļāļāđāļāļĄāļđāļĨāđāļāļāļŠāļ°āļāđāļāļāļāļĨāļąāļāļĄāļēāļāļĢāļĢāļāļāļāļąāļāļāđāļ§āļĒ Agentic RAG āđāļāļĒāļāļĩāđāđāļĄāđāļāļĨāļāļ°āļ§āļēāļāđāļāļāļāļēāļĢāļāđāļāļŦāļēāđāļāļāļŦāļĨāļēāļĒāļāļąāđāļāļāļāļ āđāļāļĢāļ·āđāļāļāļĄāļ·āļāđāļĢāļĩāļĒāļ āđāļĨāļ°āđāļāđāđāļāļāļąāļ§āđāļāļāđāļāļāļēāļĢāļ§āļāļāđāļģ āļāļēāļāļŦāļ§āļąāļāļ§āđāļēāļāļ°āļĄāļĩāļāļēāļĢāļāļđāļĢāļāļēāļāļēāļĢāļāļēāļĢāļ§āļīāļāļēāļĢāļāđāļāļāđāļāļāđāļāđāļēāļāļąāļāđāļĄāđāļāļĨāļāļđāđāļāļĢāļ§āļāļŠāļāļāļĄāļēāļāļāļķāđāļ āļāļēāļĢāļāļķāļāļāđāļāļĄāļđāļĨāļāļēāļāļāļĢāļēāļāļāļ§āļēāļĄāļĢāļđāđ āđāļĨāļ°āļāļēāļĢāđāļĢāļĩāļĒāļāļĢāļđāđāđāļāļāđāļŠāļĢāļīāļĄāļāļĩāđāđāļŦāđāļĢāļēāļāļ§āļąāļĨāđāļāđāļāļģāļāļāļāļāļĩāđāļāļ·āđāļāļŠāļąāļāļĒāđāđāļĨāļ°āļĄāļĩāļāļēāļĢāļāđāļēāļāļāļīāļāļāļĒāđāļēāļāļāļĩ āđāļĄāļ·āđāļāđāļĄāđāļāļĨāļāļēāļĢāđāļŦāđāđāļŦāļāļļāļāļĨāđāļāļīāļāđāļāđāļāđāļĄāļāļĩāđ āļāļēāļĢāļāļķāļāļāđāļāļĄāļđāļĨāļāļēāļĄāļāļ§āļēāļĄāļāđāļāļāļāļēāļĢāđāļĨāļ°āļāļēāļĢāļāļĢāļ°āđāļĄāļīāļāļāļāđāļāļāļĄāļĩāđāļāļ§āđāļāđāļĄāļāļĩāđāļāļ°āļāļĨāļēāļĒāđāļāđāļāļāļĪāļāļīāļāļĢāļĢāļĄāđāļĢāļīāđāļĄāļāđāļāđāļāļāļāļĩāđāļāļ°āđāļāđāļāļāļĢāļāļāļāļēāļĢāļāļģāļāļēāļāļāļĩāđāđāļĒāļāļāļēāļāļāļąāļ āđāļāļĒāđāļĄāđāļāļĨāļāļ°āļāļąāļāļŠāļīāļāđāļāđāļāļāđāļāļāļēāļĄāļīāļāļ§āđāļēāļāđāļāļāđāļāđāļŦāļĨāļąāļāļāļēāļāļĄāļēāļāļāđāļāļĒāđāļāļĩāļĒāļāđāļāđāļāļāļēāļĢāļāđāļēāļāļŠāļīāļāļāļīāđāđāļāđāļĨāļ°āļāļĢāļąāđāļ
āļāļāļŦāļĄāļēāļĒāļāđāļēāļ§āļāļĢāļĩ
āđāļĢāļ·āđāļāļāļĢāļēāļ§ AI āļāļĩāđāļāļĢāļ§āļāļŠāļāļāđāļĨāđāļ§ 3 āđāļĢāļ·āđāļāļāļāļļāļāļ§āļąāļāļāļģāļāļēāļ āđāļāđāļē, āđāļāļĩāļĒāļāđāļāđāļāļ āļēāļĐāļēāļāļąāļāļāļĪāļĐāļāļĢāļĢāļĄāļāļē āļāļĢāļĩāļāļĨāļāļāđāļ āđāļĄāđāļĄāļĩāđāļāļĐāļāļē
āļāļĩāđāļĄāļĨāļŦāļāļķāđāļāļāļāļąāļāļāļļāļāļ§āļąāļāļāļģāļāļēāļ āļĒāļāđāļĨāļīāļāļāļēāļĢāļŠāļĄāļąāļāļĢāđāļāļāļĨāļīāļāđāļāļĩāļĒāļ§ āđāļĢāļēāđāļĄāđāđāļāļĒāļāļēāļĒāļŦāļĢāļ·āļāđāļāļĢāđāļāļĩāđāļāļĒāļđāđāļāļĩāđāļĄāļĨāļāļāļāļāļļāļ
āļāļāļŠāļāļāļāļąāļ§āđāļāļ
āļāđāļāđāļŠāļāļāđāļāļ°āļāļąāļāļāļĩāļŠāļģāļŦāļĢāļąāļāļāļļāļāļāļģāļāļāļ āđāļĨāļ°āđāļāļĢāļąāļāļĢāļāļāļāļĩāđāļŠāļēāļĄāļēāļĢāļāđāļāļĢāđāđāļāđāļāļĢāđāļāļĄ ID āļāļĩāđāļāļĢāļ§āļāļŠāļāļāđāļāđāđāļĄāļ·āđāļāļāļļāļāļāđāļēāļāļŦāļĨāļąāļāļŠāļđāļāļĢ
āļŠāļāļąāļāļŠāļāļļāļāļāļēāļĢāļĻāļķāļāļĐāļē AI āļāļĢāļĩ AI Understanding āđāļāđāļāļāļāļāđāļāļĢāđāļĄāđāđāļŠāļ§āļāļŦāļēāļāļĨāļāļģāđāļĢ 501(c)(3) â āđāļĄāđāļĄāļĩāđāļāļĐāļāļē āđāļĄāđāļĄāļĩāļāļģāđāļāļāđāļāļīāļ, āļāļĨāļāļāđāļ āļāļĢāļīāļāļēāļ
Self-RAG learns when to retrieve and uses reflection tokens to assess passages and generated segments. These critiques can guide generation, but they are model predictions rather than independent proof that an answer is correct.
Retrieve tokens support adaptive retrieval. Other RAG designs may also be adaptive, so this contrast is scoped to the fixed-retrieval baseline.
āđāļāđāļāđāļāļāļēāļĢāļŠāļ°āļāđāļāļ āđāļāđāļ IsRelevant, IsSupported āđāļĨāļ° IsUseful āļāļĨāđāļāļĒāđāļŦāđāđāļĄāđāļāļĨāļ§āļīāļāļēāļĢāļāđāļāđāļāļāļ§āļēāļĄāđāļĨāļ°āđāļāļēāļāđāļāļļāļāļāļāļāļāļąāļ§āļĄāļąāļāđāļāļ
The token is a model-generated support judgment that can guide generation but may be wrong.
Self-RAG āđāļĢāļĩāļĒāļāļĢāļđāđāļāļēāļāļāđāļāļĄāļđāļĨāļāļēāļĢāļāļķāļāļāļāļĢāļĄāļāļĩāđāļĄāļĩāļāļģāļāļāļīāļāļēāļĒāļāļĢāļ°āļāļāļāļāđāļ§āļĒāđāļāđāļāđāļāļāļēāļĢāļŠāļ°āļāđāļāļ āļāļķāđāļāļĄāļąāļāļŠāļĢāđāļēāļāļāļķāđāļāđāļāļĒāđāļĄāđāļāļĨāļāļĢāļđāļāļĩāđāļĄāļĩāļāļ§āļēāļĄāļŠāļēāļĄāļēāļĢāļāļĄāļēāļāļāļ§āđāļē āđāļāđāļ GPT-4
āļāđāļ§āļĒāļāļēāļĢāļ§āļīāļāļēāļāļĐāđāļāļ§āļēāļĄāđāļāļĩāđāļĒāļ§āļāđāļāļāļāļāļāđāļāđāļĨāļ°āļāļāļ Self-RAG āļŠāļēāļĄāļēāļĢāļāđāļāļīāļāđāļāļĒāļāđāļāļāļēāļĢāļāđāļāļŦāļēāļāļĩāđāđāļĄāđāđāļāļĩāđāļĒāļ§āļāļąāļāļŦāļąāļ§āļāđāļāđāļāļāļāļĩāđāļāļ°āļĒāļąāļāļĨāļāđāļāļāļģāļāļāļ
āđāļĢāļĩāļĒāļāļĢāļđāđāļāđāļāđāļ
āļāļģāđāļāļ°āļāļģāđāļāļīāđāļĄāđāļāļīāļĄāļāļĩāđāđāļĨāļ·āļāļāļŠāļģāļŦāļĢāļąāļāļŦāļąāļ§āļāđāļāļāļĩāđ
āļāđāļāđāļāļāļģāđāļāļ°āļāļģāļāđāļāđāļ
RAG āđāļāļāđāļāđāļāļāļģāđāļĢāđāļĨāļ°āļāļēāļĢāļĢāđāļēāļāđāļāļāļāļķāļāļāđāļāļĄāļđāļĨāđāļāļāđāļŠāļĢāļīāļĄ
āđāļāļāļāļīāļ