Техническое РУКОВОДСТВО

Переписывание запросов и извлечение нескольких запросов

Переписывание запроса и извлечение нескольких запросов — это методы RAG, которые преобразуют вопрос пользователя перед поиском, перефразируя его, разбивая на подвопросы или генерируя несколько вариантов и объединяя их результаты.

Прослушайте это руководствоОзвучено ИИ · ~3 min

На этой странице3 минуты чтения
  1. Обзор
  2. Глубокое погружение
  3. Реальная реализация
  4. Будущее переписывания запросов и многозапросного поиска
  5. Применение на практике
  6. Продолжайте исследовать
  7. Часто задаваемые вопросы

Обзор

Они имеют значение, поскольку пользователи часто задают расплывчатые, разговорные или состоящие из нескольких частей вопросы, формулировка которых не соответствует документам, а более точный запрос может выявить релевантные отрывки, которые можно было бы пропустить при простом буквальном поиске.

Глубокое погружение

Качество поиска во многом зависит от запроса. Пользователи пишут короткие, двусмысленные или разговорные вопросы, а документы используют собственную лексику. Преобразование запросов закрывает этот пробел до того, как начнется поиск. Самая простая форма — рерайтинг: LLM превращает сообщение пользователя в более понятный поисковый запрос. Это важно в многоходовом чате, где такие вопросы, как «а в 2023 году?» ничего не значат без истории, поэтому система сжимает разговор в отдельный запрос. Декомпозиция разбивает сложный вопрос на подвопросы, которые можно извлечь отдельно, что полезно для сравнений или вопросов с несколькими переходами. Подсказка «шаг назад», описанная исследователями Google DeepMind в 2023 году, сначала задает более общий вопрос, чтобы выявить основные принципы. Многозапросный поиск генерирует несколько вариантов вопроса, выполняет поиск по каждому из них и объединяет результаты. LangChain популяризировал это с помощью MultiQueryRetriever. RAG-Fusion объединяет несколько запросов с помощью взаимного объединения рангов (RRF) — метода, описанного Кормаком, Кларком и Бютчером в 2009 году, который оценивает каждый документ путем суммирования 1/(k + ранг) по спискам результатов. Документы, занимающие первые места в нескольких списках, поднимаются на вершину без необходимости сравнивать исходные оценки. Связанный с ним метод HyDE (Hypothetical Document Embeddings, Gao et al., 2022) предполагает, что модель записывает гипотетический ответ и встраивает его вместо вопроса, поскольку текст в форме ответа часто располагается ближе к реальным отрывкам ответа в пространстве встраивания. Заблуждения: больше запросов не всегда лучше. Каждый вариант увеличивает задержку и стоимость, а плохо сгенерированные варианты могут отклоняться от намерений пользователя, привлекая нерелевантные документы. Переписывание также может устранить важные ограничения, такие как даты или названия продуктов. Прежде чем предпринимать эти шаги, измерьте качество запоминания и ответов на реальные вопросы.

Реальная реализация

В чат-ассистенте появляется сообщение «А как насчет сотрудников, работающих неполный рабочий день?» перезаписывается в отдельный запрос, например «политика отпуска по уходу за ребенком для сотрудников, работающих неполный рабочий день», с использованием предыдущего разговора.

Вопрос о сравнении цен двух поставщиков облачных услуг разбивается на отдельные поиски для каждого поставщика, а перед ответом результаты объединяются.

Бот службы поддержки генерирует четыре фразы «мое приложение продолжает выходить из системы», включая технические термины, такие как истечение срока сеанса и обновление токена, и объединяет результаты с помощью взаимного объединения рангов.

Ассистент-исследователь использует пошаговую подсказку, чтобы сначала найти общий принцип, лежащий в основе узкого вопроса, а затем извлекает конкретные детали, придавая модели как предысторию, так и специфику.

Будущее переписывания запросов и многозапросного поиска

По мере распространения агентного RAG преобразование запросов все чаще осуществляется моделью, решающей, что искать, и повторяющейся, когда результаты кажутся слабыми, а не фиксированным шагом переписывания. Это делает лежащие в основе идеи, разложение, варианты и слияние более важными, даже если они становятся менее заметными. Улучшения во внедрении моделей и гибридном поиске уменьшают некоторые словарные несоответствия, но не устраняют необходимости уточнять двусмысленные или разговорные вопросы. Ожидайте, что команды будут использовать эти методы выборочно, когда запрос выглядит сложным или первоначальный поиск является слабым, чтобы сбалансировать качество и стоимость.

Применение на практике

Почему это важно

  • Стоимость и бюджет. Архитектурные решения влияют на производительность и эксплуатационные расходы на протяжении многих лет.
  • Более четкие решения. Техническое образование помогает командам выбрать правильный стек, а не только самый новый.
  • Контроль качества. Лучший инженерный выбор снижает вероятность возникновения проблем с надежностью на производстве.

Следите за

  • Оптимизация одного теста может скрыть более широкие недостатки системы.
  • Затраты на инфраструктуру и техническое обслуживание часто недооцениваются.
  • Пробелы в безопасности и наблюдаемости могут увеличиваться по мере усложнения систем.

Следующие шаги

  1. Определите целевые показатели задержки, качества и стоимости перед внедрением.
  2. Тестирование при реалистичной нагрузке и условиях данных.
  3. Мониторинг прибора на наличие ошибок, дрейфа и влияния пользователя.
  4. Перед масштабированием подготовьте пути отката и реагирования на инциденты.

Продолжайте исследовать

Бесплатная рассылка

Получайте ежедневный AI-обзор

Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.

Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.

Проверьте себя

Take the Query Rewriting and Multi-Query Retrieval quiz

Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.

Начать тест

Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование

Часто задаваемые вопросы

Что такое переписывание запросов и многозапросное извлечение?

Переписывание запроса и извлечение нескольких запросов — это методы RAG, которые преобразуют вопрос пользователя перед поиском, перефразируя его, разбивая на подвопросы или генерируя несколько вариантов и объединяя их результаты. Они имеют значение, поскольку пользователи часто задают расплывчатые, разговорные или состоящие из нескольких частей вопросы, формулировка которых не соответствует документам, а более точный запрос может выявить релевантные отрывки, которые можно было бы пропустить при простом буквальном поиске.

Почему переписывание запросов особенно важно в многоходовом чате?

Продолжение типа «а в 2023 году?» нуждается в истории разговоров, чтобы стать полезным автономным запросом.

Какой метод разбивает вопрос сравнения на отдельные поиски для каждого сравниваемого элемента?

Декомпозиция разбивает сложные вопросы или вопросы, состоящие из нескольких частей, на подвопросы, извлекаемые отдельно.

Что делает подсказка «шаг назад»?

Подсказка «шаг назад», разработанная исследователями Google DeepMind, позволяет получить общую информацию, а не конкретику.

Как рассчитывается оценка документа при взаимном слиянии рангов?

RRF суммирует 1/(k + ранг) по каждому списку, содержащему документ, вознаграждая документы, имеющие высокий рейтинг в нескольких списках.

Почему RRF удобен для объединения векторного поиска и результатов BM25?

Поскольку RRF использует только ранговые позиции, он может объединять списки, исходные баллы которых несопоставимы.

Продолжайте учиться

Связанные руководства

Другие руководства, выбранные по этой теме

Получите бесплатный AI-сертификатКороткий бесплатный курс и экзамен. Без стоимости, без карты. Около 2,5 часов.Начать бесплатно →