SıradakiSonraki rehber
Çoklu Sorgu Dikkati
Dil Yapay Zeka
Teknik KILAVUZ
Sorgunun yeniden yazılması ve çoklu sorgu alımı, kullanıcının sorusunu aramadan önce yeniden ifade ederek, alt sorulara bölerek veya çeşitli varyantlar oluşturup sonuçlarını birleştirerek dönüştüren RAG teknikleridir.
Bunlar önemlidir çünkü kullanıcılar sıklıkla belirsiz, konuşmaya dayalı veya çok parçalı, ifadeleri belgelerle eşleşmeyen sorular sorarlar ve daha iyi bir sorgu, tek bir kelimenin tam anlamıyla aramanın kaçıracağı ilgili pasajları ortaya çıkarabilir.
Alma kalitesi büyük ölçüde sorguya bağlıdır. Kullanıcılar kısa, belirsiz veya konuşmaya benzer sorular yazarken belgeler kendi kelime dağarcığını kullanır. Sorgu dönüşümü, arama gerçekleşmeden önce bu boşluğu kapatır. En basit biçim yeniden yazmaktır: Yüksek Lisans, kullanıcının mesajını daha net bir arama sorgusuna dönüştürür. Bu, "ve 2023'te?" gibi takiplerin olduğu çok turlu sohbet için önemlidir. tarih olmadan hiçbir şey ifade etmez, bu nedenle sistem konuşmayı bağımsız bir sorguya yoğunlaştırır. Ayrıştırma, karmaşık bir soruyu, ayrı olarak alınabilen, karşılaştırmalar veya çok atlamalı sorular için yararlı olan alt sorulara böler. Google DeepMind araştırmacıları tarafından 2023'te açıklanan geri adımlı ipucu, önce arka plan ilkelerini geri almak için daha genel bir soru sorar. Çoklu sorgu alımı, sorunun çeşitli varyantlarını oluşturur, her biri için bir arama yapar ve sonuçları birleştirir. LangChain bunu MultiQueryRetriever ile popüler hale getirdi. RAG-Fusion, Cormack, Clarke ve Buettcher tarafından 2009'da açıklanan ve sonuç listelerinde her belgeyi 1/(k + sıra) toplayarak puanlayan bir yöntem olan karşılıklı sıralama füzyonu (RRF) ile birden çok sorguyu birleştirir. Birçok listede üst sıralarda görünen belgeler, karşılaştırılabilir ham puanlara ihtiyaç duymadan en üst sıralara çıkar. İlgili bir teknik olan HyDE (Varsayımsal Belge Gömmeleri, Gao ve meslektaşları, 2022), modelin varsayımsal bir cevap yazmasını ve soru yerine bunu yerleştirmesini sağlar, çünkü cevap şeklindeki bir metin genellikle yerleştirme alanında gerçek cevap pasajlarına daha yakın durur. Kavram yanılgıları: Daha fazla sorgu her zaman daha iyi değildir. Her bir değişken, gecikme ve maliyete neden olur ve kötü oluşturulmuş değişkenler, kullanıcının amacından saparak alakasız belgelerin ortaya çıkmasına neden olabilir. Yeniden yazma, tarihler veya ürün adları gibi önemli kısıtlamaları da ortadan kaldırabilir. Bu adımları uygulamadan önce hatırlama ve gerçek soruların yanıt kalitesini ölçün.
Mimari kararlar yıllarca performansı ve işletme maliyetini etkiler.
Teknik eğitim, ekiplerin yalnızca en yenisini değil, doğru yığını seçmesine de yardımcı olur.
Daha iyi mühendislik seçenekleri, üretimdeki güvenilirlik olaylarını azaltır.
Ajansal RAG yayıldıkça, sorgu dönüşümü, sabit bir yeniden yazma adımı yerine, sonuçların zayıf göründüğünde yinelenen, ne aranacağına karar veren model tarafından giderek daha fazla gerçekleştirilir. Bu, daha az görünür hale gelseler bile, altta yatan fikirleri, ayrıştırmayı, varyantları ve birleşimi daha önemli hale getiriyor. Yerleştirme modelleri ve hibrit aramadaki iyileştirmeler, bazı kelime uyumsuzluklarını azaltır ancak belirsiz veya konuşmaya dayalı soruları netleştirme ihtiyacını ortadan kaldırmaz. Kaliteyi maliyetle dengelemek için ekiplerin, bir sorgu karmaşık göründüğünde veya ilk erişim zayıf olduğunda tetiklenen bu teknikleri seçici bir şekilde kullanmasını bekleyin.
Bir sohbet asistanında, "yarı zamanlı personel için durum nedir?" önceki konuşmayı kullanarak "yarı zamanlı çalışanlar için ebeveyn izni politikası" gibi bağımsız bir sorguya yeniden yazılır.
İki bulut sağlayıcısının fiyatlarını karşılaştıran bir soru, her sağlayıcı için ayrı aramalara ayrıştırılır ve yanıtlanmadan önce sonuçlar birleştirilir.
Bir destek botu, oturumun sona ermesi ve belirteç yenileme gibi teknik terimler de dahil olmak üzere "uygulamam oturumumu kapatıyor" şeklindeki dört ifadeyi oluşturur ve sonuçları karşılıklı sıralama füzyonuyla birleştirir.
Bir araştırma asistanı, önce dar bir sorunun ardındaki genel prensibi aramak için geri adım atma ipucunu kullanır, ardından modele hem arka planı hem de ayrıntıları vererek belirli ayrıntıları alır.
Bir kıyaslamayı optimize etmek daha geniş sistem zayıflıklarını gizleyebilir.
Altyapı ve bakım maliyetleri genellikle hafife alınır.
Sistemler karmaşıklaştıkça güvenlik ve gözlemlenebilirlik boşlukları büyüyebilir.
Uygulamadan önce gecikmeyi, kaliteyi ve maliyet hedeflerini tanımlayın.
Gerçekçi yük ve veri koşulları altında kıyaslama yapın.
Hatalar, sapmalar ve kullanıcı etkisi için cihaz izleme.
Ölçeklendirmeden önce geri alma ve olay müdahale yollarını hazırlayın.
Free newsletter
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Sorgunun yeniden yazılması ve çoklu sorgu alımı, kullanıcının sorusunu aramadan önce yeniden ifade ederek, alt sorulara bölerek veya çeşitli varyantlar oluşturup sonuçlarını birleştirerek dönüştüren RAG teknikleridir. Bunlar önemlidir çünkü kullanıcılar sıklıkla belirsiz, konuşmaya dayalı veya çok parçalı, ifadeleri belgelerle eşleşmeyen sorular sorarlar ve daha iyi bir sorgu, tek bir kelimenin tam anlamıyla aramanın kaçıracağı ilgili pasajları ortaya çıkarabilir.
"Ve 2023'te?" gibi bir devamı yararlı bir bağımsız sorgu haline gelmesi için konuşma geçmişine ihtiyacı var.
Ayrıştırma, karmaşık veya çok parçalı soruları ayrı ayrı alınan alt sorulara böler.
Google DeepMind araştırmacılarından geri adımlı yönlendirme, ayrıntılardan önce genel arka planı alır.
RRF, belgeyi içeren her liste üzerinden 1/(k + sıra) toplayarak çeşitli listelerde üst sıralarda yer alan belgeleri ödüllendirir.
RRF yalnızca sıralama konumlarını kullandığından, ham puanları karşılaştırılamayan listeleri birleştirebilir.
Öğrenmeye devam et
Bu konu için daha fazla rehber seçildi
SıradakiSonraki rehber
Çoklu Sorgu Dikkati
Dil Yapay Zeka