Düşünce Ağacı Mantığı
Düşünce Ağacı, bir modelin tek bir düşünce çizgisine bağlı kalmak yerine, bir ağacın dalları gibi birçok akıl yürütme yolunu paralel olarak keşfetmesine olanak tanır.
Genel Bakış
It can look ahead, evaluate partial solutions, and backtrack from dead ends.
Derin Dalış
Yao ve diğerleri tarafından tanıtıldı. 2023'te Düşünce Ağacı (ToT), düşünce zinciri yönlendirmesini genelleştiriyor. Düşünce zincirinin akıl yürütme adımlarının tek bir doğrusal dizisini ürettiği durumlarda ToT, sorunu bir ağaç olarak yapılandırır: her düğüm kısmi bir çözümdür (bir 'düşünce') ve model, her düğümden birkaç aday sonraki düşünceyi üretir. Ayrı bir değerlendirme adımı, her dalın ne kadar umut verici olduğunu puanlıyor ve genişlik öncelikli veya derinlik öncelikli arama gibi bir arama algoritması, hangi dalların genişletileceğine ve hangilerinin budanacağına karar veriyor. Bu, modelin kasıtlı olarak keşfetmesine, birkaç adım ileriye bakmasına ve bir yol ümit verici görünmediğinde geriye doğru izlemesine olanak tanır. ToT, açgözlü tek yollu akıl yürütmeyi alt eden görevlerde parladı; en ünlüsü, GPT-4'ün düşünce zinciriyle bulmacaların yaklaşık %4'ünü çözdüğü ancak ToT'nin başarıyı yaklaşık %74'e çıkardığı 24'lü Oyun.
Teknik Bilgi
ToT'nin üç parçası vardır: adayın sonraki adımlarını öneren bir düşünce oluşturucu, bir durum değerlendiricisi (genellikle aynı LLM, kısmi çözümleri 'kesin / belki / imkansız' olarak derecelendirmesi veya oylaması istenir) ve ağaçta gezinen bir arama prosedürü (BFS, DFS veya ışın araması). Model, kısmi durumları değerlendirdiği ve zayıf dalları budadığı için, hesaplamayı çözüm alanının gelecek vaat eden bölgelerine tahsis eder; ekstra çıkarımların ticareti, zor problemlerde önemli ölçüde daha yüksek doğruluk gerektirir.
Stratejik Etki
Maliyet ve bütçe
Mimari kararlar yıllarca performansı ve işletme maliyetini etkiler.
Daha net kararlar
Teknik eğitim, ekiplerin yalnızca en yenisini değil, doğru yığını seçmesine de yardımcı olur.
Quality control
Daha iyi mühendislik seçenekleri, üretimdeki güvenilirlik olaylarını azaltır.
Düşünce Ağacı Mantığının Geleceği
Düşünce Ağacı, çıkarım zamanı hesaplamasının nasıl harcandığını etkiliyor: sistemler tek bir büyük ileri geçiş yerine giderek daha fazla muhakeme yolları araştırıyor ve en iyisini seçiyor. Gelecekteki çalışmalar, dallanmanın ne zaman yüksek belirteç maliyetine değeceğini öğrenmeyi, istem tabanlı öz değerlendirme yerine eğitimli değer işlevlerini kullanmayı ve ağaç aramayı akıl yürütme modellerine katmayı, böylece müzakerenin daha verimli olmasını amaçlamaktadır. Araçlar ve doğrulayıcılarla daha sıkı entegrasyon bekleyebilirsiniz, böylece şube değerlendirmesi modelin tahmininden ziyade gerçek geri bildirime dayanır.
Gerçek Dünya Uygulaması
24 Oyununu, önce iki sayının birleştirileceği dallara ayrılarak ve 24'e ulaşamayan aritmetik yolları budayarak çözmek.
Modelin birkaç olay örgüsü taslağı hazırladığı, bunları değerlendirdiği ve düzyazı yazmadan önce en güçlü olanı genişlettiği tutarlı bir planla yaratıcı yazma.
Doldurulan her kelimenin bir düşünce olduğu ve uyumsuz dalların terk edildiği mini bulmacalar gibi kısıtlama bulmacaları.
Modelin alternatif ara adımları araştırdığı ve kısıtlamaları ihlal edenlerden geri adım attığı çok adımlı matematik veya planlama problemleri.
Riskler ve Korkuluklar
Bir kıyaslamayı optimize etmek daha geniş sistem zayıflıklarını gizleyebilir.
Altyapı ve bakım maliyetleri genellikle hafife alınır.
Sistemler karmaşıklaştıkça güvenlik ve gözlemlenebilirlik boşlukları büyüyebilir.
Uygulama Yol Haritası
Uygulamadan önce gecikmeyi, kaliteyi ve maliyet hedeflerini tanımlayın.
Gerçekçi yük ve veri koşulları altında kıyaslama yapın.
Hatalar, sapmalar ve kullanıcı etkisi için cihaz izleme.
Ölçeklendirmeden önce geri alma ve olay müdahale yollarını hazırlayın.
Keşfetmeye Devam Edin
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Tree-of-Thoughts Reasoning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Düşünce Ağacı
Sık sorulan sorular
What is Tree-of-Thoughts Reasoning?
Düşünce Ağacı, bir modelin tek bir düşünce çizgisine bağlı kalmak yerine, bir ağacın dalları gibi birçok akıl yürütme yolunu paralel olarak keşfetmesine olanak tanır. İleriye bakabilir, kısmi çözümleri değerlendirebilir ve çıkmazlardan geriye doğru gidebilir.
Düşünce Ağacı'nın düşünce zinciri yönlendirmesinden farkı nedir?
Düşünce zinciri tek bir doğrusal dizi üretirken, Düşünce Ağacı değerlendirilebilecek ve budanabilecek birçok aday yola dallanır.
Düşünce Ağacı'nda tek bir düğüm tipik olarak neyi temsil eder?
Her düğüm kısmi bir çözümdür (bir düşünce) ve model, her düğümden gelen birkaç aday sonraki düşünceyi genişletir.
Düşünce Ağacı'nda durum değerlendiricisinin rolü nedir?
Çoğunlukla aynı yüksek lisans mezunu olan değerlendirici, kısmi durumları (örneğin, kesin/belki/imkansız) derecelendirir veya oy verir, böylece arama gelecek vaat eden dallara odaklanabilir.
Game of 24 değerlendirmesinde ToT, düşünce zincirini kabaca hangi sıçramayla önemli ölçüde geride bıraktı?
Düşünce zincirine sahip GPT-4, Game of 24 bulmacalarının yaklaşık %4'ünü çözerken, Düşünce Ağacı yaklaşık %74'e ulaştı.
Düşünce ağacında gezinmek için yaygın olarak hangi arama stratejileri kullanılıyor?
ToT, hangi dalların genişletileceğine karar vermek için düşünce oluşturma ve değerlendirmeyi BFS, DFS veya ışın arama gibi klasik arama prosedürleriyle eşleştirir.