Toolformer ve Kendi Kendine Öğretilen Takım Kullanımı
Toolformer, bir dil modelinin hesap makineleri, arama motorları ve çevirmenler gibi harici araçları ne zaman ve nasıl çağıracağını kendi kendine öğretmesine olanak tanıyan bir 2023 Meta AI yöntemidir.
Genel Bakış
Instead of humans labeling tool calls, the model generates and filters its own training examples, then fine-tunes on the ones that actually help.
Derin Dalış
Toolformer, Schick ve ark. Meta AI, bir paradoksun üstesinden geliyor: büyük modeller dil konusunda harikadır ancak aritmetik, yeni gerçekler ve hassas aramalar konusunda kötüdür. Eğitim döngüsü kendi kendini denetler. Modele, API çağrısı sözdizimini gösteren, insan tarafından yazılmış bir avuç örnek veriliyor ve ardından büyük bir metin külliyatı boyunca birçok konuma aday çağrıları (özel belirteçlerle sarılmış) eklemesi isteniyor. Her aday çağrı aslında yürütülür ve sonuç eklenir. Anahtar filtreleme adımı, bir araç çağrısını yalnızca API sonucuna sahip olmanın, modelin yaklaşan gerçek metin üzerindeki karışıklığını aramamaktan veya farklı şekilde çağırmaktan daha fazla azaltması durumunda tutar. Model daha sonra bu filtrelenmiş, kendi kendine oluşturulan veri kümesi üzerinde ince ayar yapıyor ve beş aracı kullanmayı öğreniyor: bir hesap makinesi, bir QA sistemi, bir arama motoru, bir çevirmen ve bir takvim.
Teknik Bilgi
Belirleyici fikir, kendi kendini denetleyen filtreleme hedefidir. Her aday pozisyon için Toolformer, API sonucu eklenmişken ve eklenmemişken aşağıdaki tokenları tahmin etme kaybını karşılaştırır. Kaybı belirli bir eşikten daha fazla azaltan çağrılar korunur; işe yaramaz veya gürültülü çağrılar dikkate alınmaz. Bu, 'doğru' araç kullanımına ilişkin hiçbir insan açıklamasına ihtiyaç duyulmadığı, hangi çağrıların gerçekten bilgilendirici olduğuna modelin kendisinin karar verdiği ve yerleştirmeyi ve argümanları birlikte öğrendiği anlamına gelir.
Stratejik Etki
Maliyet ve bütçe
Mimari kararlar yıllarca performansı ve işletme maliyetini etkiler.
Daha net kararlar
Teknik eğitim, ekiplerin yalnızca en yenisini değil, doğru yığını seçmesine de yardımcı olur.
Quality control
Daha iyi mühendislik seçenekleri, üretimdeki güvenilirlik olaylarını azaltır.
Toolformer'ın Geleceği ve Kendi Kendine Öğretilen Takım Kullanımı
Toolformer günümüzün alet kullanan ve işlev çağıran aracılarının tohumunu attı. Sınır, sabit bir avuç dolusu araçtan çalışma zamanında keşfedilen düzinelerce veya yüzlerce araca doğru ilerliyor; modeller hangi aracın çağrılacağına, çağrıların zincirlenmesine ve arızaların ele alınmasına karar veriyor. Takviyeli öğrenme ve aracı döngüleri ile daha sıkı entegrasyonun yanı sıra yeni API'lerin anında öğrenilmesini bekleyebilirsiniz, böylece kendi kendine öğretilen araç kullanımı, özel bir ince ayar yerine standart bir yetenek haline gelir.
Gerçek Dünya Uygulaması
Sayısal bir cevabı tahmin etmek yerine tam aritmetik elde etmek için cümlenin ortasında bir hesap makinesi API'sini çağırmak.
Güncel veya nadiren görülen gerçek bilgileri getirmek için bir arama veya QA sistemini sorgulamak.
Oluşturulan metin içinde başka bir dildeki bir ifadeyi işlemek için bir makine çeviri aracını çağırmak.
'Gelecek Cuma' gibi göreceli referansları somut bir tarihe çözümlemek için bir takvim/tarih aracı kullanmak.
Riskler ve Korkuluklar
Bir kıyaslamayı optimize etmek daha geniş sistem zayıflıklarını gizleyebilir.
Altyapı ve bakım maliyetleri genellikle hafife alınır.
Sistemler karmaşıklaştıkça güvenlik ve gözlemlenebilirlik boşlukları büyüyebilir.
Uygulama Yol Haritası
Uygulamadan önce gecikmeyi, kaliteyi ve maliyet hedeflerini tanımlayın.
Gerçekçi yük ve veri koşulları altında kıyaslama yapın.
Hatalar, sapmalar ve kullanıcı etkisi için cihaz izleme.
Ölçeklendirmeden önce geri alma ve olay müdahale yollarını hazırlayın.
Keşfetmeye Devam Edin
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Toolformer and Self-Taught Tool Use quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Etmen Döngülerinde Öz-Yansıma
Sık sorulan sorular
What is Toolformer and Self-Taught Tool Use?
Toolformer, bir dil modelinin hesap makineleri, arama motorları ve çevirmenler gibi harici araçları ne zaman ve nasıl çağıracağını kendi kendine öğretmesine olanak tanıyan bir 2023 Meta AI yöntemidir. İnsanların araç çağrılarını etiketlemesi yerine, model kendi eğitim örneklerini oluşturup filtreliyor, ardından gerçekten yardımcı olanlara ince ayar yapıyor.
Toolformer'ın öğrenme aracı kullanımına yaklaşımını farklı kılan şey nedir?
Toolformer kendi kendini denetler: model, aday API çağrılarını önerir, bunları yürütür ve doğru kullanıma ilişkin insan açıklaması olmadan yalnızca yararlı olanları saklar.
Toolformer, aday API çağrısını sürdürüp sürdürmeyeceğine karar vermek için hangi kriteri kullanır?
Bir çağrı, yalnızca sonucunun eklenmesi modelin yaklaşan gerçek metindeki şaşkınlığını/kaybını bir eşiğin ötesine düşürüyorsa ve bunun gerçekten yararlı olduğunu gösteriyorsa tutulur.
Orijinal Toolformer hangi araçları kullanmayı öğrendi?
Toolformer, beş API'yi çağırmak üzere eğitildi: hesap makinesi, soru yanıtlama sistemi, arama motoru, makine çevirmeni ve takvim.
Toolformer'ın işlemi sırasında araç çağrıları metinde nasıl temsil ediliyor?
Aday çağrıları ve döndürülen sonuçlar, özel belirteçler kullanılarak metne satır içi olarak eklenir, böylece model, yerleştirmeyi ve argümanları birlikte öğrenir.
Büyük dil modellerinin temelindeki zayıflık, Toolformer'ı motive etti mi?
Güçlü dil becerilerine rağmen yüksek lisans öğrencileri, harici araçların sağlayabileceği kesin aritmetik, güncel gerçekler ve kesin bilgi erişimi konusunda zorluk yaşıyor.