Kısıtlamalarla Kılavuzlu Işın Araması
Kısıtlı ışın araması, bir yandan en olası metni ararken, bir dil modelinin çıktısını belirli kelimeleri dahil etmek veya bir dilbilgisini eşleştirmek gibi zorlu gereksinimleri karşılamaya zorlar.
Genel Bakış
It guarantees structure that plain sampling cannot promise.
Derin Dalış
Sıradan ışın araması, her adımda en olası kısmi dizileri ('kirişler') tutar ve en iyi tamamlanmış olanı seçerek bunları genişletir. Kılavuzlu veya kısıtlı ışın araması, 'köprü ve nehir kelimeleri görünmelidir' veya 'çıktı geçerli JSON olmalıdır' gibi nihai çıktının uyması gereken kuralları ekler. Sözcüksel olarak kısıtlanmış kod çözme (Hokamp ve Liu, 2017) ve Grid Beam Search, kirişleri kaç kısıtlamanın karşılandığına göre düzenleyerek gerekli her jetonun sonunda görünmesini sağlar. Post ve Vilar'ın Dinamik Işın Tahsisi, ışın yuvalarını kısıtlama ilerleme düzeylerine göre sıralayarak bunu verimli hale getirdi. Modern sistemler ayrıca dilbilgisi açısından kısıtlı kod çözmeyi de kullanır: her adımda sonlu durum makinesi veya bağlamdan bağımsız dilbilgisi, simge dağıtımını maskeler, böylece yalnızca çıktıyı geçerli tutan simgelere izin verilir. Araçlar ayrıştırılabilir JSON, SQL veya API çağrılarını güvenilir bir şekilde bu şekilde yayınlar.
Teknik Bilgi
İşin püf noktası ışın başına hangi kısıtlamaların karşılandığını izlemektir. Kirişler memnuniyet durumuna göre gruplandırılır, böylece gerekli bir kelimeyi yerleştiren kısmi çözümler, olmayanlarla rekabet eder, böylece yüksek olasılıklı ancak kısıtlamayı ihlal eden dizilerin herkesi dışarıda bırakması önlenir. Dilbilgisi tabanlı değişkenler, bir otomattan gelen her adımda bir belirteç maskesi hesaplayarak, model hiç örneklemeden önce dilbilgisini bozabilecek herhangi bir belirtecin olasılığını sıfırlar.
Stratejik Etki
Speed and scale
Dil iş akışları tutarlılıktan ödün vermeden daha hızlı ilerleyebilir.
Access and reach
Diller ve iletişim tarzları arasında erişimi genişletir.
Daha net kararlar
Otomasyon tekrarlamayı yönetirken ekipler karar vermeye daha fazla zaman ayırabilir.
Kısıtlamalarla Kılavuzlu Işın Aramasının Geleceği
Kısıtlı kod çözme, güvenilir araç kullanımının ve yapılandırılmış çıktının omurgası haline geliyor. JSON Şemalarını veya normal ifadeleri hızlı belirteç maskeleri halinde derleyen kitaplıklar (Ana Hatlar ve rehberlik yaklaşımı gibi) ana akım çıkarım sunucularıyla birleşiyor. Hız için spekülatif kod çözme ile birleştirilmiş dilbilgisi kısıtlamalarını ve katı kuralların kırılganlığı olmadan stil veya güvenlik hedeflerine yönlendiren öğrenilmiş 'yumuşak' rehberliği bekleyebilirsiniz.
Gerçek Dünya Uygulaması
Makine çevirisi çıktısını gerekli terminoloji terimini içerecek şekilde zorlama
Bir LLM'nin, API çağrıları için belirli bir şemaya göre doğrulanan JSON yaydığını garanti etmek
Oluşturulan SQL'i bir veritabanının tablosu ve sütun dilbilgisi ile sınırlama
Zorunlu anahtar kelimeleri reklam metnine veya ürün açıklamalarına ekleme
Riskler ve Korkuluklar
Halüsinasyonlu gerçekler sessizce raporlara, destek akışlarına veya araştırma çıktılarına girebilir.
İstem hassasiyeti, benzer istekler arasında tutarsız sonuçlar yaratabilir.
Erişim kontrolleri zayıfsa hassas metin verileri açığa çıkabilir.
Uygulama Yol Haritası
Kullanıma sunmadan önce çıktı formatını, tonunu ve kalite standartlarını tanımlayın.
Doğruluğun önemli olduğu durumlarda güvenilir kaynaklarla zemin müdahaleleri.
Yüksek riskli çıktılar için insan incelemesi kontrol noktası bulundurun.
Arıza modellerini takip edin ve istemleri veya iş akışlarını düzenli olarak yeniden eğitin.
Keşfetmeye Devam Edin
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Guided Beam Search with Constraints quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Işın Arama
Sık sorulan sorular
What is Guided Beam Search with Constraints?
Kısıtlı ışın araması, bir yandan en olası metni ararken, bir dil modelinin çıktısını belirli kelimeleri dahil etmek veya bir dilbilgisini eşleştirmek gibi zorlu gereksinimleri karşılamaya zorlar. Düz örneklemenin vaat edemeyeceği yapıyı garanti eder.
Düz ışın araması her nesil adımında neyi korur?
Işın araması, en yüksek puana sahip k kısmi diziyi (ışınlar) korur ve bunları genişleterek arama genişliğini ve maliyetini dengeler.
Grid Beam Search gibi sözcüksel olarak kısıtlanmış yöntemler kirişleri nasıl düzenler?
Kirişler kısıtlama-tatmin durumlarına göre gruplandırılır, böylece gerekli sözcükleri yerleştiren kısmi çıktılar adil bir şekilde rekabet edebilir.
Dil bilgisi kısıtlamalı kod çözmede geçersiz çıktı nasıl önlenir?
Sonlu durum makinesi veya dilbilgisi, diziyi geçersiz kılacak herhangi bir belirteci sıfırlayan adım başına bir maske üretir.
Dinamik Işın Tahsisi hangi sorunu çözer?
Post ve Vilar'ın yöntemi, ışın kapasitesini kısıtlama-ilerleme durumları arasında tahsis ederek sözcüksel olarak kısıtlı aramayı çok daha verimli hale getirir.
Neden katı kısıtlamalar, özel bir işlem gerektirmeden iyi dizileri dışarıda bırakabilir?
Kısıtlama durumuna göre gruplandırma yapılmazsa, akıcı ancak uyumlu olmayan kirişler en üstteki sıraları kazanacaktır, bu nedenle ilerleme durumlarının ayrı ayrı rekabet etmesi gerekir.