Genel Bakış
BM25, belgeleri sorgu terimlerinin görünme sıklığına göre puanlayan, terimin nadirliğine ve belge uzunluğuna göre ayarlanan klasik anahtar kelimeye dayalı sıralama işlevidir. Onlarca yıllık bir geçmişe sahip olmasına rağmen, arama için son derece güçlü ve her yerde bulunan bir temel olmaya devam ediyor.
BM25 ve Lexical Retrieval, metni ve konuşmayı uygun ölçekte okumak, oluşturmak, sınıflandırmak ve dönüştürmek için kullanılan dil yapay zeka yığınının bir parçasıdır.
Derin Dalış
BM25 (En İyi Eşleşen 25), 1990'ların olasılıksal Okapi çerçevesinden gelen bir kelime çantası sıralama işlevidir. Her sorgu terimi için üç sinyali birleştirir: terim sıklığı (kelimenin bir belgede ne sıklıkta göründüğü, k1 parametresi tarafından kontrol edilen azalan getirilerle), ters belge sıklığı (koleksiyondaki daha nadir kelimeler daha fazla sayılır) ve belge uzunluğu normalizasyonu (b parametresi, dolayısıyla uzun belgeler haksız yere tercih edilmez). Bu dönem başına puanları topladığınızda belgenin sıralamasını elde edersiniz. Herhangi bir eğitime ihtiyaç duymaz ve ters çevrilmiş indeksler aracılığıyla son derece hızlı çalışır; bu nedenle Elasticsearch ve Lucene gibi arama motorları onu varsayılan olarak kullanır. Nöral erişimdeki artışa rağmen BM25, özellikle nadir terimler, kesin tanımlayıcılar ve alan dışı sorgular için birçok kıyaslamada hâlâ kazanıyor veya berabere kalıyor.
Teknik Bilgi
BM25'in terim frekansı bileşeni doyurur: k1 parametresi, tekrarlanan kelimelerin puanı ne kadar artırdığını sınırlar, dolayısıyla 50 kez görünen bir terim, bir kereden 50 kat daha alakalı değildir. b parametresi ham ve uzunluğa göre normalleştirilmiş frekansı harmanlar. IDF, 'the' gibi yaygın sözcüklerin ağırlığını azaltıyor ve ayırt edici olanları ödüllendiriyor. Her kelimeyi kendi belge listesine eşleyen ters bir dizin üzerinde çalıştığı için, puanlama yalnızca sorgu terimlerini içeren belgelere dokunur ve bu da onu son derece verimli hale getirir.
BM25 ve Sözcüksel Erişim konusunda uzmanlaşmak
BM25, belgeleri sorgu terimlerinin görünme sıklığına göre puanlayan, terimin nadirliğine ve belge uzunluğuna göre ayarlanan klasik anahtar kelimeye dayalı sıralama işlevidir. Onlarca yıllık bir geçmişe sahip olmasına rağmen, arama için son derece güçlü ve her yerde bulunan bir temel olmaya devam ediyor. BM25 ve Lexical Retrieval, metni ve konuşmayı uygun ölçekte okumak, oluşturmak, sınıflandırmak ve dönüştürmek için kullanılan dil yapay zeka yığınının bir parçasıdır. Derin bir anlayış oluşturmak için BM25 ve Lexical Retrieval'ı tek bir özellik olarak değil, bir işletim modeli olarak ele alın: arzu edilen sonuçları tanımlayın, varsayımları netleştirin ve sistemin güvenilir bir şekilde yapabileceklerini hâlâ uzman görüşü gerektiren şeylerden ayırın.
Uygulamada, BM25 ve Sözcüksel Erişim tasarımını kullanan güçlü ekipler, tek bir entegre iletişim sistemi olarak döngüleri yönlendirir, alır ve gözden geçirir. Açık başarı kriterlerini belgeliyorlar, gerçekçi verilere ve iş akışlarına göre test ediyorlar ve tek seferlik kıyaslama kazanımları yerine gözlemlenen başarısızlık modellerine dayalı olarak yineleniyorlar. Burası teorik anlayışın ürün, politika ve operasyonlar genelinde dayanıklı yeteneğe dönüştüğü yerdir.
Dil iş akışları tutarlılıktan ödün vermeden daha hızlı ilerleyebilir. Aynı zamanda Halüsinasyonlu gerçekler sessizce raporlara, destek akışlarına veya araştırma çıktılarına girebilir. En dayanıklı yaklaşım, deneme hızını yönetişim disiplini ile birleştirmektir: pilot uygulamaları çalıştırın, kanıtları toplayın, karar günlüklerini yayınlayın ve model davranışı, kullanıcı beklentileri ve düzenleyici gereksinimler geliştikçe koruma önlemlerini sürekli olarak güncelleyin.
Stratejik Etki
Dil iş akışları tutarlılıktan ödün vermeden daha hızlı ilerleyebilir.
Dil iş akışları tutarlılıktan ödün vermeden daha hızlı ilerleyebilir. Yüksek kaliteli dağıtımlarda bu, ölçülebilir işletim kurallarına, sahiplik sınırlarına ve yinelenen inceleme ritüellerine dönüştürülür, böylece ekipler belirsizliği ölçeklendirmek yerine güveni ölçeklendirebilir.
Diller ve iletişim tarzları arasında erişimi genişletir.
Diller ve iletişim tarzları arasında erişimi genişletir. Yüksek kaliteli dağıtımlarda bu, ölçülebilir işletim kurallarına, sahiplik sınırlarına ve yinelenen inceleme ritüellerine dönüştürülür, böylece ekipler belirsizliği ölçeklendirmek yerine güveni ölçeklendirebilir.
Otomasyon tekrarlamayı yönetirken ekipler karar vermeye daha fazla zaman ayırabilir.
Otomasyon tekrarlamayı yönetirken ekipler karar vermeye daha fazla zaman ayırabilir. Yüksek kaliteli dağıtımlarda bu, ölçülebilir işletim kurallarına, sahiplik sınırlarına ve yinelenen inceleme ritüellerine dönüştürülür, böylece ekipler belirsizliği ölçeklendirmek yerine güveni ölçeklendirebilir.
Gerçek Dünya Uygulaması
Elasticsearch, OpenSearch ve Apache Lucene/Solr'da varsayılan alaka sıralaması
İki aşamalı aramada daha yavaş bir sinirsel yeniden sıralamayı besleyen birinci aşama aday alımı
Tam tanımlayıcıların ve hata kodlarının tam olarak eşleşmesi gereken yerlerde kod ve günlük araması
DPR gibi yoğun avcıları eğitmek için sert olumsuz örneklerin çıkarılması
Uygulama Modelleri
BM25 ve Pratikte Sözcüksel Erişim
Elasticsearch, OpenSearch ve Apache Lucene/Solr'daki varsayılan alaka sıralaması.
Elasticsearch, OpenSearch ve Apache Lucene/Solr'daki varsayılan alaka sıralaması Ekipler, kalite eşiklerini önceden belirlediklerinde, uç durumlar için insani bir yükseltme yolu tuttuklarında ve zaman içinde hem üretkenlik kazanımlarını hem de hata maliyetlerini izlediklerinde genellikle daha iyi sonuçlar elde ederler.
BM25 ve Pratikte Sözcüksel Erişim
İki aşamalı aramada daha yavaş bir sinirsel yeniden sıralamayı besleyen birinci aşama aday alımı.
İki aşamalı aramada daha yavaş bir sinirsel yeniden sıralamayı besleyen birinci aşama aday alımı Ekipler genellikle kalite eşiklerini önceden belirlediklerinde, uç durumlar için insani bir yükseltme yolunu tuttuklarında ve zaman içinde hem üretkenlik kazanımlarını hem de hata maliyetlerini takip ettiklerinde daha iyi sonuçlar elde ederler.
BM25 ve Pratikte Sözcüksel Erişim
Tam tanımlayıcıların ve hata kodlarının tam olarak eşleşmesi gereken yerlerde kod ve günlük araması.
Tam tanımlayıcıların ve hata kodlarının tam olarak eşleşmesi gereken yerlerde kod ve günlük araması Ekipler genellikle kalite eşiklerini önceden belirlediklerinde, uç durumlar için insani bir yükseltme yolu tuttuklarında ve zaman içinde hem üretkenlik kazanımlarını hem de hata maliyetlerini takip ettiklerinde daha iyi sonuçlar elde ederler.
BM25 ve Pratikte Sözcüksel Erişim
DPR gibi yoğun avcıları eğitmek için sert olumsuz örneklerin çıkarılması.
DPR Ekipleri gibi yoğun avcıları eğitmek için zorlu negatif örneklerin çıkarılması, kalite eşiklerini önceden belirlediklerinde, uç durumlar için insani bir yükseltme yolunu tuttuklarında ve zaman içinde hem üretkenlik kazanımlarını hem de hata maliyetlerini takip ettiklerinde genellikle daha iyi sonuçlar elde ederler.
Riskler ve Korkuluklar
Halüsinasyonlu gerçekler sessizce raporlara, destek akışlarına veya araştırma çıktılarına girebilir.
İstem hassasiyeti, benzer istekler arasında tutarsız sonuçlar yaratabilir.
Erişim kontrolleri zayıfsa hassas metin verileri açığa çıkabilir.
Uygulama Yol Haritası
Kullanıma sunmadan önce çıktı formatını, tonunu ve kalite standartlarını tanımlayın.
Kullanıma sunmadan önce çıktı formatını, tonunu ve kalite standartlarını tanımlayın. Her adımı bir kanıt kapısı olarak değerlendirin: Kriterler karşılanmazsa, kullanıma sunumu duraklatın, boşluğu kapatın ve ancak bundan sonra kullanımı genişletin.
Doğruluğun önemli olduğu durumlarda güvenilir kaynaklarla zemin müdahaleleri.
Doğruluğun önemli olduğu durumlarda güvenilir kaynaklarla zemin müdahaleleri. Her adımı bir kanıt kapısı olarak değerlendirin: Kriterler karşılanmazsa, kullanıma sunumu duraklatın, boşluğu kapatın ve ancak bundan sonra kullanımı genişletin.
Yüksek riskli çıktılar için insan incelemesi kontrol noktası bulundurun.
Yüksek riskli çıktılar için insan incelemesi kontrol noktası bulundurun. Her adımı bir kanıt kapısı olarak değerlendirin: Kriterler karşılanmazsa, kullanıma sunumu duraklatın, boşluğu kapatın ve ancak bundan sonra kullanımı genişletin.
Arıza modellerini takip edin ve istemleri veya iş akışlarını düzenli olarak yeniden eğitin.
Arıza modellerini takip edin ve istemleri veya iş akışlarını düzenli olarak yeniden eğitin. Her adımı bir kanıt kapısı olarak değerlendirin: Kriterler karşılanmazsa, kullanıma sunumu duraklatın, boşluğu kapatın ve ancak bundan sonra kullanımı genişletin.