Self-RAG и Reflective Retrieval
Self-RAG е рамка, в която езиков модел решава кога да извлече, след което критикува както извлечените пасажи, така и собствения си изход, използвайки специални токени за отразяване.
Преглед
It matters because it makes retrieval-augmented generation adaptive and self-checking instead of blindly fetching documents for every query.
Дълбоко гмуркане
Стандартният RAG извлича фиксиран брой пасажи за всеки вход, дори когато не са необходими, и никога не проверява дали отговорът действително се поддържа. Self-RAG, представен от Asai и колеги през 2023 г., обучава един модел да прави три неща при поискване. Първо, той излъчва токен за „извличане“, решавайки дали изобщо е необходимо външно знание. Второ, след извличане, той издава токени за критика „IsRelevant“, като преценява дали всеки пасаж помага. Трето, той генерира токени „IsSupported“ и „IsUseful“, като оценява дали собствените му изявления се основават на доказателствата и колко добър е отговорът. Тези токени за отражение позволяват на системата да извлича само когато е оправдано, филтрира неуместни пасажи и предпочита изходи, които самият модел оценява като добре поддържани, намалявайки халюцинациите.
Техническа информация
Self-RAG се обучава чрез контролирано обучение върху данни, маркирани с отразяващи токени, често дестилирани от по-силен модел като GPT-4. При извод моделът преплита обикновени текстови токени с тези специални контролни токени. Търсенето на лъч на ниво сегмент може след това да отбележи продължавания на кандидатите, използвайки вероятностите на критичните токени, позволявайки на разработчиците да настройват поведението по време на изпълнение – например, претегляйки по-силно „IsSupported“, за да увеличат максимално фактическата основа спрямо плавността.
Стратегическо въздействие
Speed and scale
Езиковите работни процеси могат да се движат по-бързо, без да се жертва последователността.
Access and reach
Той разширява достъпа между езици и стилове на комуникация.
Clearer decisions
Екипите могат да отделят повече време за преценка, докато автоматизацията се справя с повторението.
Бъдещето на Self-RAG и Reflective Retrieval
Рефлективното извличане се сближава с агентния RAG, където моделите планират многоетапни търсения, извикват инструменти и се самокоригират през итерации. Очаквайте по-тясна интеграция на самокритиката с верифициращи модели, извличане чрез графики на знания и обучение за укрепване, което възнаграждава верните, добре цитирани отговори. С развитието на моделите на разсъждение е вероятно извличането при поискване и самооцененото извличане да се превърне в поведение по подразбиране, а не в отделна рамка, като моделът динамично решава колко доказателства изисква всяко твърдение.
Внедряване в реалния свят
Медицинският асистент за въпроси и отговори извлича насоки само за клинични въпроси и пропуска извличането за поздрави, използвайки своя токен за решение „извличане“.
Помощник-изследовател филтрира попаденията при търсене извън темата, като проверява критиката „Е релевантно“ на всеки пасаж, преди да пише.
Корпоративен чатбот предпочита отговори с етикет „IsSupported“, така че изявленията му да останат основани на документите на компанията, премахвайки халюцинациите.
Инструмент за проверка на факти използва резултата „IsUseful“, за да класира отговорите на множество кандидати и да изведе най-добре доказания.
Рискове и предпазни огради
Халюцинираните факти могат тихо да влязат в отчети, потоци за поддръжка или резултати от изследвания.
Бързата чувствителност може да създаде противоречиви резултати при подобни заявки.
Чувствителните текстови данни могат да бъдат разкрити, ако контролите за достъп са слаби.
Пътна карта за изпълнение
Определете изходен формат, тон и стандарти за качество преди внедряване.
Наземни отговори с доверени източници винаги, когато точността има значение.
Поддържайте контролна точка за човешки преглед за изходи с високи залози.
Проследявайте моделите на неуспехи и редовно обучавайте подкани или работни потоци.
Продължете да изследвате
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Self-RAG and Reflective Retrieval quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Спекулативен RAG и извличане-Augmented Drafting
Frequently asked questions
What is Self-RAG and Reflective Retrieval?
Self-RAG е рамка, в която езиков модел решава кога да извлече, след което критикува както извлечените пасажи, така и собствения си изход, използвайки специални токени за отразяване. Има значение, защото прави адаптивно и самопроверяващо се генериране с извличане, вместо сляпо извличане на документи за всяка заявка.
Какво ключово решение взема Self-RAG, което стандартният RAG не взема?
Self-RAG излъчва токен за „извличане“, за да реши при поискване дали са необходими външни документи, вместо винаги да извлича.
Какво представляват „токените за отражение“ в Self-RAG?
Токените за отражение като IsRelevant, IsSupported и IsUseful позволяват на модела да критикува пасажи и собствен изход.
Кой токен за отразяване оценява дали генерираното изявление се основава на извлечените доказателства?
Токенът IsSupported преценява дали твърдението на модела действително е подкрепено от извлечените пасажи, като помага за намаляване на халюцинациите.
Как моделът Self-RAG обикновено се обучава да произвежда токени за отражение?
Self-RAG се учи от данни за обучение, анотирани с токени за отражение, често генерирани от по-способен модел на учител като GPT-4.
Какво предимство осигурява излъчването на критика „Е релевантен“ за всеки пасаж?
Като критикува уместността на всеки пасаж, Self-RAG може да игнорира извличания извън темата, вместо да ги натъпква в отговора.