SıradakiSonraki rehber
Ana Belge ve Küçükten Büyüğe Erişim
Teknik
Teknik KILAVUZ
Bağlamsal Erişim
Bağlamsal erişim, anahtar kelime araması için gömülmeden ve dizine eklenmeden önce her bir parçaya kısa, belgeye uygun bir açıklama ekleyen bir RAG tekniğidir, böylece bir parça kendi başına okunduğunda hala anlamlı olur.
Bu sayfada4 dakikalık okuma
Genel Bakış
Bu önemlidir, çünkü parçalar genellikle belgelerinden ayrıldıklarında, hangi şirkete, ürüne veya zaman dilimine ait oldukları gibi önemli bilgileri kaybederler ve bu kayıp, toplayıcının doğru geçişi kaçırmasına neden olur.
Derin Dalış
Standart RAG, belgeleri parçalara ayırır, her parçayı gömer ve soruya en çok benzeyen parçaları alır. Sorun, şeritlerin bağlamının bölünmesidir. "Şirketin geliri %3 arttı" diyen bir parça hangi şirketi veya hangi dönemi belirtmez, dolayısıyla ne semantik arama ne de anahtar kelime araması bunu onları adlandıran bir soruyla güvenilir bir şekilde eşleştiremez. Anthropic, Eylül 2024'te bağlamsal almayı açıkladı. Her bir parça için, bir dil modeline tüm belge ve parça verilir ve parçayı belge içinde konumlandıran kısa bir bağlam (genellikle yaklaşık 50 ila 100 jeton) yazması istenir. Bu bağlam yığının başına eklenmiştir. Birleştirilen metin daha sonra iki dizinde kullanılır: bir yerleştirme dizini (bağlamsal yerleştirmeler) ve bir BM25 anahtar kelime dizini (bağlamsal BM25). Sorgulama sırasında her ikisinin sonuçları birleştirilir ve isteğe bağlı olarak bir yeniden sıralama uzmanı en iyi adayları yeniden sıralar. Anthropic'nin çeşitli veri kümeleri üzerinde rapor ettiği deneylerde, bağlamsal yerleştirmeler artı bağlamsal BM25, ilk 20'deki geri alma başarısızlık oranını standart yerleştirmelerle karşılaştırıldığında yaklaşık yüzde 49 oranında azalttı ve yeniden sıralamanın eklenmesi, azalmayı yaklaşık yüzde 67'ye getirdi. Kendi verilerinize ilişkin sonuçlar farklılık gösterebilir, bu nedenle ölçüm yapmaya değer. Maliyet indeksleme zamanındadır: her biri tam belgeyi içeren parça başına bir model çağrısı. Anında önbelleğe alma işlemi çok daha ucuz hale getirir çünkü belge bir kez önbelleğe alınır ve tüm parçalarında yeniden kullanılır. Kaçınılması gereken kavram yanılgıları: Eklenen bağlam erişim için kullanılır ve bunu oluşturucuya gösterip göstermeyeceğinizi seçebilirsiniz. İyi parçalamanın yerini almaz ve modelin bağlam penceresine uyan küçük bilgi tabanları için her şeyi doğrudan göndermek, herhangi bir geri alma hattından daha basit olabilir.
Stratejik Etki
Maliyet ve bütçe
Mimari kararlar yıllarca performansı ve işletme maliyetini etkiler.
Daha net kararlar
Teknik eğitim, ekiplerin yalnızca en yenisini değil, doğru yığını seçmesine de yardımcı olur.
Kalite kontrolü
Daha iyi mühendislik seçenekleri, üretimdeki güvenilirlik olaylarını azaltır.
Bağlamsal Erişimin Geleceği
Bağlamsal erişim, sorgu süresini daha güvenilir hale getirmek için indeksleme süresinde daha fazla hesaplama harcama yönündeki daha geniş bir eğilimi yansıtır. Model çağrıları ucuzlaştıkça ve önbelleğe alma standart hale geldikçe, parçalara bağlam eklemek birçok RAG işlem hattında büyük olasılıkla varsayılan bir adım haline gelecektir. Daha uzun bağlam pencereleri, küçük koleksiyonlarda erişim ihtiyacını azaltır, ancak büyük koleksiyonlarda bu geçerli değildir; dolayısıyla bunun gibi teknikler, büyük bilgi tabanlarıyla alakalı kalmalıdır. Ekiplerin moda yerine ölçülen hatırlamaya göre seçim yapmasıyla meta veri filtreleme, bilgi grafikleri ve geç etkileşim erişimiyle daha fazla kombinasyon bekleyebilirsiniz.
Gerçek Dünya Uygulaması
Üç aylık rapordan bir parçada yalnızca "Gelir önceki çeyreğe göre %3 arttı" yazıyor; Bağlamsal erişim, bunun belirli bir şirketin 2. Çeyrek dosyasından geldiğini varsayar, dolayısıyla o şirketi ve çeyreği adlandıran bir arama onu bulur.
Bir çalışan el kitabında, "Bu 90 gün sonra geçerlidir" ifadesi, bunun uzaktan çalışmaya uygunluk bölümünden olduğunu açıklayan bir önek kazanıyor.
Bir yazılım dokümantasyon asistanı, bir yapılandırma öbeğinin bir API'nin 3. sürümüne ait olduğunu belirterek bağlam ekler ve 2. sürümdeki benzer metinlerle karışıklığı azaltır.
Bir destek bilgi tabanı, sorun giderme parçalarının önüne, kapsadıkları ürün modelini ekler, böylece bir modelle ilgili sorular, diğerine yönelik adımların alınmasını durdurur.
Riskler ve Korkuluklar
Bir kıyaslamayı optimize etmek daha geniş sistem zayıflıklarını gizleyebilir.
Altyapı ve bakım maliyetleri genellikle hafife alınır.
Sistemler karmaşıklaştıkça güvenlik ve gözlemlenebilirlik boşlukları büyüyebilir.
Uygulama Yol Haritası
Uygulamadan önce gecikmeyi, kaliteyi ve maliyet hedeflerini tanımlayın.
Gerçekçi yük ve veri koşulları altında kıyaslama yapın.
Hatalar, sapmalar ve kullanıcı etkisi için cihaz izleme.
Ölçeklendirmeden önce geri alma ve olay müdahale yollarını hazırlayın.
Keşfetmeye Devam Edin
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Contextual Retrieval quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Sık sorulan sorular
Bağlamsal Erişim Nedir?
Bağlamsal erişim, anahtar kelime araması için gömülmeden ve dizine eklenmeden önce her bir parçaya kısa, belgeye uygun bir açıklama ekleyen bir RAG tekniğidir, böylece bir parça kendi başına okunduğunda hala anlamlı olur. Bu önemlidir, çünkü parçalar genellikle belgelerinden ayrıldıklarında, hangi şirkete, ürüne veya zaman dilimine ait oldukları gibi önemli bilgileri kaybederler ve bu kayıp, toplayıcının doğru geçişi kaçırmasına neden olur.
Bağlamsal erişim hangi sorunu çözer?
Bölme, çevreleyen bağlamı ortadan kaldırır; bu nedenle, yalıtılmış bir parça, bir sorunun sorduğu varlıktan veya dönemden bahsetmeyebilir.
Her bir parçanın bağlamı nasıl oluşturulur?
Modele belgenin tamamı ve parça verilir ve parçayı belgenin içine yerleştiren kısa bir bağlam döndürülür.
Anthropic'nin yaklaşımında bağlamsallaştırılmış yığın metnini hangi iki dizin alır?
Yöntem bağlamsal yerleştirmeleri ve bağlamsal BM25'i kullanır ve ardından bunların sonuçlarını birleştirir.
Anthropic'nin rapor edilen deneylerine göre, bağlamsal yerleştirmeler artı bağlamsal BM25 ilk 20 alma hatasını kabaca ne kadar azalttı?
Anthropic yaklaşık yüzde 49'luk bir azalma bildirdi, yeniden sıralamayla yaklaşık yüzde 67'ye yükseldi. Diğer verilerdeki sonuçlar farklılık gösterebilir.
Anında önbelleğe alma neden bağlamsal alımı daha ucuz hale getiriyor?
Her parçanın çağrısı belgenin tamamını içerir; paylaşılan öneki önbelleğe almak, tam fiyatın tekrar tekrar ödenmesini önler.
Öğrenmeye devam et
İlgili kılavuzlar
Bu konu için daha fazla rehber seçildi