SıradakiSonraki rehber
ColBERT Geç Etkileşim Erişimi
Dil Yapay Zeka
Dil AI KILAVUZU
Dense Passage Retrieval learns vector representations of questions and passages and ranks passages by their similarity.
Bu kılavuzu dinleyinAI tarafından anlatılan · ~2 min
Learned matching can retrieve relevant paraphrases with limited word overlap, but relevance depends on training and evaluation rather than semantic guarantees.
Facebook AI tarafından 2020'de tanıtılan DPR, iki ayrı BERT kodlayıcı kullanıyor: soru kodlayıcı ve pasaj kodlayıcı. Her biri metni sabit uzunlukta yoğun bir vektöre (genellikle 768 boyut) dönüştürür. İlgililik, bir soru vektörü ile bir geçiş vektörü arasındaki nokta çarpımıdır; dolayısıyla erişim, önceden hesaplanmış pasaj yerleştirmeleri üzerinde hızlı bir en yakın komşu araması haline gelir. Model, karşılaştırmalı bir hedefle eğitilmiştir: toplu negatifleri ve BM25'ten çıkarılan kesin negatifleri kullanarak doğru pasajın vektörünü soruya yaklaştırın ve yanlış olanları uzaklaştırın. Natural Questions gibi açık alan QA kıyaslamalarında DPR, uzun süredir baskın olan BM25'i büyük farklarla geride bırakarak öğrenilen anlamsal eşleştirmenin, soruları yanıtlamak için anahtar kelime aramasından daha iyi performans gösterebileceğini gösterdi.
Yüksek Lisans yanıtı yazmadan önce destekleyici Vikipedi pasajlarını çeken açık alan soru yanıtlama sistemleri
Çalışanların doğal sorular sorduğu ve tam anahtar kelimeler olmasa bile ilgili paragrafları aldığı kurumsal belge arama
Başka kelimelerle ifade edilen bir şikayetten doğru yardım merkezi makalesini alan müşteri destek botları
Halüsinasyonu azaltmak için yanıtları özel bir bilgi tabanında temellendiren, erişimle zenginleştirilmiş sohbet robotları
Yoğun erişim artık büyük dil modellerini besleyen çoğu erişimle artırılmış üretim hattının temelini oluşturuyor. Araştırmalar, yoğun ve sözcüksel puanları birleştiren hibrit sistemlere, daha iyi eşleştirme için jeton başına vektörleri tutan ColBERT gibi geç etkileşim modellerine ve birçok göreve uyum sağlayan talimat ayarlı yerleştirmelere doğru ilerliyor. Daha ucuz, çok dilli ve daha uzun bağlamlı kodlayıcıların yanı sıra toplayıcıların hizmet ettikleri jeneratörlerle daha sıkı bir şekilde ortak eğitilmesini bekleyin.
Ücretsiz bülten
Hafta içi her sabah sade İngilizce yazılmış, doğrulanmış üç yapay zeka hikayesi. Sonsuza kadar ücretsiz, reklam yok.
Hafta içi her gün bir e-posta. Tek tıklamayla aboneliğinizi iptal edin. Adresinizi asla satmayız veya paylaşmayız.
Kendinizi test edin
Her yanıtla ilgili anında geri bildirim ve bir kursu geçtiğinizde doğrulanabilir bir kimliğe sahip paylaşılabilir bir sertifika.
Ücretsiz AI eğitimini destekleyin. AI Understanding, bir 501(c)(3) kâr amacı gütmeyen kuruluştur; hiçbir zaman reklam yoktur, ödeme duvarı yoktur. Bağış yap
Dense Passage Retrieval learns vector representations of questions and passages and ranks passages by their similarity. Learned matching can retrieve relevant paraphrases with limited word overlap, but relevance depends on training and evaluation rather than semantic guarantees.
DPR, hem sorguları hem de pasajları yoğun vektörlerle eşleştirir ve benzerliklerine (nokta çarpımı) göre alaka düzeyini ölçer ve sözcük örtüşmesi yerine anlamı yakalar.
Çift kodlayıcıda sorular ve pasajlar için bağımsız kodlayıcılar bulunur, böylece pasaj vektörleri önceden hesaplanabilir ve indekslenebilir.
Pasaj kodlayıcı sorguya bağlı olmadığından, tüm pasaj yerleştirmeleri önceden hesaplanıp saklanabilir ve arama zamanında yalnızca sorgu kodlanacak şekilde bırakılabilir.
Toplu negatifler, mini gruptaki diğer pasajları belirli bir soru için negatifler olarak ele alır ve birçok karşılaştırmalı çifti verimli bir şekilde üretir.
Learned representations can support paraphrase matching, but dense retrieval does not universally outperform lexical retrieval.
Öğrenmeye devam et
Bu konu için daha fazla rehber seçildi
SıradakiSonraki rehber
ColBERT Geç Etkileşim Erişimi
Dil Yapay Zeka