ДаліНаступний посібник
Спекулятивний RAG і пошуково-доповнений проект
технічний
Технічний КЕРІВНИЦТВО
Пошуково-доповнена генерація (RAG)
Retrieval-augmented Generation, або RAG, передає отриманий матеріал у генеративну модель під час відповіді на запит.
Послухайте цей посібникШІ-розказаний · ~2 min
На цій сторінці2 хвилини читання
Огляд
Це може надати системі доступ до відповідних документів без повторного навчання моделі для кожної зміни документа. Отримання не гарантує, що остаточна відповідь підтверджена або правильна.
Ключові висновки
- Зберігайте походження та контекст документа.
- Застосуйте дозволи до того, як результати пошуку досягнуть моделі.
- Оцініть пошук і генерацію незалежно.
Глибоке занурення
Типовий конвеєр збирає документи, зберігає їх походження, створює представлення з можливістю пошуку, отримує кандидатів для запиту та передає вибрані докази моделі. Деякі системи поєднують пошук за ключовими словами та семантичний пошук або змінюють рейтинг результатів перед створенням. На кожному етапі можуть бути упущення або помилки. Підготовка документів визначає, які докази можна знайти. Зберігайте заголовки, дати, таблиці та ідентифікатори джерел під час поділу вмісту на фрагменти. Уривок, відокремлений від винятку чи виноски, може передавати неправильне значення, навіть якщо слова скопійовано правильно. Застосуйте засоби контролю доступу до того, як доказ досягне моделі. Результат пошуку, який є семантично релевантним, все ще може належати до документа, який запитуваний користувач не має права переглядати. Розглядайте інструкції в отриманих документах як ненадійний вміст, а не як повноваження змінювати поведінку програми. Оцініть пошук і відповідь окремо. Перевірте, чи з’являється потрібний доказ у наборі кандидатів, чи зберігає його вибраний контекст і чи вірно його використовує відповідь. Включіть у колекцію питання, на які немає відповіді, а також суперечливі або застарілі документи. Системі потрібен чіткий спосіб сказати, що доказів недостатньо.
04Спрацьований приклад
Знайдіть, де обґрунтована відповідь зазнає невдачі
Створіть дві політики: прострочена версія дозволяє повернення протягом 30 днів; поточна версія дозволяє 14 днів.
Якщо пошук повертає лише стару політику, помилка є перед генерацією. Якщо обидва отримані, але відповідь вибирає 30 днів, дослідіть вибір контексту та використання доказів.
Додайте конфлікт дати набрання чинності як до пошуку, так і до оцінок відповідей.
Що це показує
Винайдений приклад розділяє дві причини, які інакше виглядали б як однакова неправильна відповідь.
Реалізація в реальному світі
Дайте відповідь на запитання служби підтримки, використовуючи поточну політику та дату її набуття чинності.
Поверніть уривки джерела разом із поясненням, щоб читач міг його перевірити.
Застосування на практиці
Чому це важливо
- Вартість і бюджет. Архітектурні рішення збільшують продуктивність і експлуатаційні витрати протягом багатьох років.
- Чіткіші рішення. Технічна освіта допомагає командам вибрати правильний стек, а не лише найновіший.
- Контроль якості. Кращий інженерний вибір зменшує проблеми з надійністю у виробництві.
Зверніть увагу на
- Оптимізація одного тесту може приховати ширші слабкі сторони системи.
- Витрати на інфраструктуру та обслуговування часто недооцінюються.
- Прогалини в безпеці та спостережуваності можуть зростати в міру ускладнення систем.
Наступні кроки
- Визначте цільові показники затримки, якості та вартості перед впровадженням.
- Тест за реалістичних умов навантаження та даних.
- Моніторинг інструментів на наявність помилок, дрейфу та впливу користувача.
- Перед масштабуванням підготуйте шляхи відкату та реагування на інциденти.
Джерела та подальше читання
- Lewis and colleaguesПошуково-доповнена генерація для наукомістких завдань НЛП
Продовжуйте досліджувати
Безплатний розсилок
Отримуйте щоденне зведення новин про ШІ
Три перевірені історії про ШІ щоробочого ранку, написані простою мовою. Безплатно назавжди, без реклами.
Один лист щотижня з понеділка по п'ятницю. Відписатися в один клік. Ми ніколи не продаємо та не передаємо вашу адресу.
Перевір себе
Take the Retrieval-Augmented Generation (RAG) quiz
Миттєва зворотна связь на кожну відповідь та сертифікат із перевіреним ідентифікатором, яким можна поділитися, після проходження курсу.
Підтримайте безплатну освіту у сфері ШІ. AI Understanding — це некомерційна організація 501(c)(3) — без реклами, без платних стін, назавжди. Зробіть пожертву
Часті запитання
Чи усуває RAG галюцинації?
Ні. Отримання може втрачати докази, повертати оманливий матеріал або використовуватися генератором неправильно. Остаточна відповідь ще потребує оцінки.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми