Технічний КЕРІВНИЦТВО
Переписування запитів і отримання кількох запитів
Переписування запитів і багатозапитовий пошук — це методи RAG, які перетворюють запитання користувача перед пошуком шляхом його перефразування, розбиття на підзапитання або створення кількох варіантів і об’єднання їхніх результатів.
На цій сторінці3 хвилини читання
Огляд
Вони мають значення, тому що користувачі часто ставлять розпливчасті, розмовні або складні запитання, формулювання яких не відповідає документам, а кращий запит може виявити релевантні фрагменти, які б пропустив один пошуковий запит.
Глибоке занурення
Якість пошуку значною мірою залежить від запиту. Користувачі пишуть короткі, двозначні або розмовні запитання, тоді як документи використовують власний словниковий запас. Трансформація запиту усуває цю прогалину до того, як почнеться пошук. Найпростіша форма — рерайтинг: LLM перетворює повідомлення користувача на більш зрозумілий пошуковий запит. Це важливо в багаточерговому чаті, де повтори на зразок "а в 2023?" нічого не означають без історії, тому система стискує розмову в окремий запит. Декомпозиція розбиває складне запитання на підзапитання, які можна отримати окремо, що стане в пригоді для порівнянь або запитань з кількома переходами. Підказка кроку назад, описана дослідниками Google DeepMind у 2023 році, спочатку ставить більш загальне запитання, щоб отримати основні принципи. Багатозапитовий пошук генерує кілька варіантів запитання, запускає пошук для кожного та об’єднує результати. LangChain популяризував це завдяки своєму MultiQueryRetriever. RAG-Fusion поєднує численні запити з взаємним злиттям рангів (RRF), методом, описаним Кормаком, Кларком і Бюттчером у 2009 році, який оцінює кожен документ шляхом підсумовування 1/(k + ранг) у списках результатів. Документи, які відображаються на перших місцях у кількох списках, піднімаються на вершину, не потребуючи порівняння необроблених балів. Пов’язана техніка, HyDE (Hypothetical Document Embeddings, Gao та колеги, 2022), змушує модель писати гіпотетичну відповідь і вбудовувати її замість запитання, оскільки текст у формі відповіді часто розташовується ближче до справжніх уривків відповіді у просторі вбудовування. Помилки: більше запитів не завжди означає краще. Кожен варіант збільшує затримку та збільшує вартість, а погано згенеровані варіанти можуть відхилятися від намірів користувача, залучаючи нерелевантні документи. Переписування також може скинути такі важливі обмеження, як дати чи назви продуктів. Виміряйте запам'ятовування та якість відповідей на реальні запитання, перш ніж виконувати ці кроки.
Стратегічний вплив
Вартість і бюджет
Архітектурні рішення збільшують продуктивність і експлуатаційні витрати протягом багатьох років.
Чіткіші рішення
Технічна освіта допомагає командам вибрати правильний стек, а не лише найновіший.
Контроль якості
Кращий інженерний вибір зменшує проблеми з надійністю у виробництві.
Майбутнє переписування запитів і пошуку кількох запитів
У міру поширення агентної RAG трансформація запиту все більше обробляється моделлю, яка вирішує, що шукати, ітеруючи, коли результати виглядають слабкими, а не фіксованим кроком перезапису. Це робить основні ідеї, декомпозицію, варіанти та злиття більш важливими, навіть якщо вони стають менш помітними. Удосконалення моделей вбудовування та гібридного пошуку зменшують деяку невідповідність словникового запасу, але не усувають необхідності роз’яснювати неоднозначні чи розмовні запитання. Очікуйте, що команди використовуватимуть ці методи вибірково, коли запит виглядає складним або початковий пошук слабкий, щоб збалансувати якість і вартість.
Реалізація в реальному світі
У помічнику в чаті запит «А як щодо співробітників, які працюють неповний робочий день?» переписується в окремий запит, наприклад "політика батьківської відпустки для працівників, які працюють неповний робочий день", використовуючи попередню розмову.
Запитання, у якому порівнюються ціни двох хмарних постачальників, розбивається на окремі пошуки для кожного постачальника, а результати об’єднуються перед відповіддю.
Бот служби підтримки генерує чотири фрази «мій додаток постійно виводить мене з системи», включаючи такі технічні терміни, як закінчення сеансу та оновлення маркера, і об’єднує результати взаємним об’єднанням рангів.
Науковий співробітник використовує підказки кроку назад, щоб спочатку знайти загальний принцип, що стоїть за вузьким питанням, а потім витягує конкретні деталі, надаючи моделі як фон, так і особливості.
Ризики та огорожі
Оптимізація одного тесту може приховати ширші слабкі сторони системи.
Витрати на інфраструктуру та обслуговування часто недооцінюються.
Прогалини в безпеці та спостережуваності можуть зростати в міру ускладнення систем.
Дорожня карта впровадження
Визначте цільові показники затримки, якості та вартості перед впровадженням.
Тест за реалістичних умов навантаження та даних.
Моніторинг інструментів на наявність помилок, дрейфу та впливу користувача.
Перед масштабуванням підготуйте шляхи відкату та реагування на інциденти.
Продовжуйте досліджувати
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Query Rewriting and Multi-Query Retrieval quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Часті запитання
Що таке переписування запитів і пошук кількох запитів?
Переписування запитів і багатозапитовий пошук — це методи RAG, які перетворюють запитання користувача перед пошуком шляхом його перефразування, розбиття на підзапитання або створення кількох варіантів і об’єднання їхніх результатів. Вони мають значення, тому що користувачі часто ставлять розпливчасті, розмовні або складні запитання, формулювання яких не відповідає документам, а кращий запит може виявити релевантні фрагменти, які б пропустив один пошуковий запит.
Чому переписування запитів особливо важливо в багаточерговому чаті?
Продовження типу "а в 2023?" потрібна історія розмов, щоб стати корисним автономним запитом.
Який метод розбиває запитання порівняння на окремі пошуки для кожного елемента, що порівнюється?
Декомпозиція розбиває складні або багатоскладові запитання на підзапитання, які витягуються окремо.
Що робить підказка кроку назад?
Покрокова підказка від дослідників Google DeepMind повертає загальний фон перед конкретними.
Як обчислюється оцінка документа у взаємному об’єднанні рангів?
RRF підсумовує 1/(k + ранг) для кожного списку, що містить документ, винагороджуючи документи, які займають високі позиції в кількох списках.
Чому RRF зручний для об’єднання результатів векторного пошуку та BM25?
Оскільки RRF використовує лише рангові позиції, він може поєднувати списки, вихідні бали яких не можна порівняти.
Продовжуйте вчитися
Пов'язані посібники
Інші посібники, вибрані для цієї теми