ДалееСледующее руководство
Спекулятивная RAG и черчение с расширенным поиском
Технический
Техническое РУКОВОДСТВО
Поисково-дополненная генерация (RAG)
Генерация с расширенным поиском, или RAG, передает извлеченный материал в генеративную модель при ответе на запрос.
Прослушайте это руководствоОзвучено ИИ · ~2 min
На этой странице2 минуты чтения
Обзор
Это может предоставить системе доступ к соответствующим документам без переобучения модели для каждого изменения документа. Поиск не гарантирует, что окончательный ответ подтвержден или правилен.
Ключевые выводы
- Сохраняйте происхождение и контекст документа.
- Обеспечьте соблюдение разрешений до того, как результаты извлечения достигнут модели.
- Оценивайте извлечение и генерацию независимо.
Глубокое погружение
Типичный конвейер собирает документы, сохраняет их происхождение, создает представления с возможностью поиска, находит кандидатов для запроса и передает выбранные доказательства в модель. Некоторые системы объединяют поиск по ключевым словам и семантический поиск или изменяют рейтинг результатов перед генерацией. На каждом этапе могут быть упущения или ошибки. Подготовка документов определяет, какие доказательства можно найти. Сохраняйте заголовки, даты, таблицы и идентификаторы источников при разделении контента на отрывки. Отрывок, отделенный от исключения или сноски, может передать неправильное значение, даже если слова скопированы правильно. Применяйте элементы управления доступом до того, как доказательства достигнут модели. Результат поиска, который является семантически релевантным, может по-прежнему принадлежать документу, который запрашивающему пользователю не разрешено видеть. Считайте инструкции внутри полученных документов ненадежным содержимым, а не правом изменять поведение приложения. Оценивайте поиск и ответ отдельно. Проверьте, появляются ли необходимые доказательства в наборе кандидатов, сохраняет ли их выбранный контекст и добросовестно ли используется ответ. Включите в сборник вопросы, на которые нет ответа, а также противоречивые или устаревшие документы. Системе нужен четкий способ сказать, что доказательств недостаточно.
04Рабочий пример
Найдите места, где не удается найти обоснованный ответ
Создайте две политики: версия с истекшим сроком действия допускает возврат в течение 30 дней; текущая версия позволяет 14 дней.
Если при извлечении возвращается только старая политика, ошибка связана с генерацией. Если оба найдены, но ответ выбирает 30 дней, изучите выбор контекста и использование доказательств.
Добавьте конфликт даты вступления в силу как при поиске, так и при оценке ответов.
Что это показывает
Придуманный пример разделяет две причины, которые в противном случае выглядели бы как один и тот же неправильный ответ.
Реальная реализация
Ответьте на вопрос службы поддержки, используя текущую политику и дату ее вступления в силу.
Возвращайте отрывки из источника вместе с объяснением, чтобы читатель мог их проверить.
Применение на практике
Почему это важно
- Стоимость и бюджет. Архитектурные решения влияют на производительность и эксплуатационные расходы на протяжении многих лет.
- Более четкие решения. Техническое образование помогает командам выбрать правильный стек, а не только самый новый.
- Контроль качества. Лучший инженерный выбор снижает вероятность возникновения проблем с надежностью на производстве.
Следите за
- Оптимизация одного теста может скрыть более широкие недостатки системы.
- Затраты на инфраструктуру и техническое обслуживание часто недооцениваются.
- Пробелы в безопасности и наблюдаемости могут увеличиваться по мере усложнения систем.
Следующие шаги
- Определите целевые показатели задержки, качества и стоимости перед внедрением.
- Тестирование при реалистичной нагрузке и условиях данных.
- Мониторинг прибора на наличие ошибок, дрейфа и влияния пользователя.
- Перед масштабированием подготовьте пути отката и реагирования на инциденты.
Источники и дальнейшее чтение
- Lewis and colleaguesГенерация с дополненным поиском для знаёмых задач NLP
Продолжайте исследовать
Бесплатная рассылка
Получайте ежедневный AI-обзор
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Take the Retrieval-Augmented Generation (RAG) quiz
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Часто задаваемые вопросы
Устраняет ли РАГ галлюцинации?
Нет. При поиске могут быть упущены доказательства, возвращен вводящий в заблуждение материал или генератор может неправильно использовать его. Окончательный ответ все еще нуждается в оценке.
Продолжайте учиться
Связанные руководства
Другие руководства, выбранные по этой теме