Ajanların Karışımı Toplama
Aracıların Karışımı (MoA), birkaç dil modelinin yanıtları tasarladığı ve ardından bir toplayıcı modelin en iyi fikirlerini tek bir gelişmiş yanıtta birleştirdiği bir tekniktir.
Genel Bakış
It lets a team of open models rival or beat a single top-tier model.
Derin Dalış
Together AI'nın 2024 tarihli bir makalesinde tanıtılan Mixture-of-Agents, birden fazla LLM'yi katmanlar halinde düzenler. İlk katmanda, çeşitli 'teklif sahibi' modellerin her biri bağımsız olarak istemi yanıtlar. Çıktıları daha sonra birleştirilir ve bir sonraki katmana aktarılır; burada modeller artık önceki tüm taslaklara göre yeniden yanıt verir. Bu tür bir veya daha fazla turdan sonra, nihai bir 'toplayıcı' model, her şeyi tek bir yanıtta sentezler. Yazarların 'LLM'lerin işbirlikçiliği' olarak adlandırdığı temel fikir, modellerin akranlarının cevapları gösterildiğinde, kusurlu olsa bile daha iyi tepkiler üretmesidir. AlpacaEval 2.0 değerlendirmesinde, tamamen açık kaynaklı modellerden oluşturulan bir MoA'nın GPT-4 Omni'nin puanını aştığı, çeşitli, daha ucuz modellerin dikkatli bir şekilde bir araya getirilmesinin tek bir sınır sistemini yenebileceğini gösterdiği bildirildi.
Teknik Bilgi
MoA, basit çoğunluk oylamasından farklıdır: toplayıcı, tek bir yanıt seçmek yerine tüm aday yanıtlarını bağlam olarak okur ve güçlü yönleri harmanlayarak ve hataları filtreleyerek yeni bir sentez üretir. Teklif verenler arasındaki çeşitlilik yardımcı olur, bu nedenle farklı model ailelerini karıştırmak değerlidir. Yapı, her katmanın 'nöronlarının' bütün LLM çağrılarından oluştuğu derin bir ağ gibi katmanlıdır. Takas gecikme ve maliyettir: Her katman çıkarım çağrılarının sayısını çoğaltır, dolayısıyla MoA kaliteyi yükseltmek için daha fazla bilgi işlem harcar.
Stratejik Etki
Speed and scale
Dil iş akışları tutarlılıktan ödün vermeden daha hızlı ilerleyebilir.
Access and reach
Diller ve iletişim tarzları arasında erişimi genişletir.
Daha net kararlar
Otomasyon tekrarlamayı yönetirken ekipler karar vermeye daha fazla zaman ayırabilir.
Aracı Karması Toplamasının Geleceği
Çıkarım ucuzladıkça ve düzenleme çerçeveleri olgunlaştıkça MoA tarzı toplamanın yayılmasını bekleyin. Araştırma talimatları arasında, sorgu başına hangi teklif verenlere güvenileceğinin öğrenilmesi (yönlendirme), teklif verenleri paralel olarak çalıştırarak ve zayıf olanları erkenden budayarak gecikme cezasını azaltma ve toplayıcının yalnızca metni değil eylemleri ve alınan kanıtları birleştirmesi için MoA'yı araç kullanan aracılarla birleştirme yer alır. Açık modeller çoğaldıkça, bunların akıllıca bir araya getirilmesi, tek bir dev model olmadan, sınır düzeyinde kaliteye giden giderek daha pratik bir yol haline geliyor.
Gerçek Dünya Uygulaması
Teklif verenler olarak üç farklı açık sohbet modelini birleştirmek, ardından gösterişli bir müşteri desteği yanıtı üretmek için güçlü bir toplayıcı kullanmak.
Yalnızca açık kaynaklı modeller kullanılarak AlpacaEval tarzı kıyaslamalarda talimat takip puanlarının artırılması.
Çeşitli modellerden gelen çeşitli kod önerilerini tek, daha sağlam bir işlev uygulamasında birleştiriyor.
Verilerin bir şirketin sunucularından ayrılamayacağı gizliliğe duyarlı bir dağıtım için sınır kalitesine yaklaşan açık ağırlıklı bir işlem hattının çalıştırılması.
Riskler ve Korkuluklar
Halüsinasyonlu gerçekler sessizce raporlara, destek akışlarına veya araştırma çıktılarına girebilir.
İstem hassasiyeti, benzer istekler arasında tutarsız sonuçlar yaratabilir.
Erişim kontrolleri zayıfsa hassas metin verileri açığa çıkabilir.
Uygulama Yol Haritası
Kullanıma sunmadan önce çıktı formatını, tonunu ve kalite standartlarını tanımlayın.
Doğruluğun önemli olduğu durumlarda güvenilir kaynaklarla zemin müdahaleleri.
Yüksek riskli çıktılar için insan incelemesi kontrol noktası bulundurun.
Arıza modellerini takip edin ve istemleri veya iş akışlarını düzenli olarak yeniden eğitin.
Keşfetmeye Devam Edin
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Mixture-of-Agents Aggregation quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Derinliklerin Karışımı
Sık sorulan sorular
What is Mixture-of-Agents Aggregation?
Aracıların Karışımı (MoA), birkaç dil modelinin yanıtları tasarladığı ve ardından bir toplayıcı modelin en iyi fikirlerini tek bir gelişmiş yanıtta birleştirdiği bir tekniktir. Açık modellerden oluşan bir ekibin tek bir üst düzey modele rakip olmasını veya onu yenmesini sağlar.
Aracıların Karışımı'nda toplayıcı modelinin rolü nedir?
Toplayıcı, tüm aday yanıtlarını okur ve birleştirilmiş, daha yüksek kaliteli bir yanıt oluşturur.
MoA belgesi Yüksek Lisans'ın hangi temel özelliğine dayanıyor?
Yazarlar, modellerin diğer modellerin taslaklarına, hatta kusurlu taslaklara göre koşullandırıldığında cevaplarını iyileştirdiğini gözlemliyor.
MoA'nın basit çoğunluk oylamasından farkı nedir?
Oy vermenin aksine, MoA yalnızca mevcut bir yanıtı seçmez; adayları harmanlayan yeni bir yanıt üretir.
Teklif veren modeller arasındaki çeşitlilik MoA'da neden değerlidir?
Çeşitli teklif sahipleri daha fazla alan kaplayarak toplayıcıya birleştirilecek daha zengin bir fikir seti ve filtrelenecek hatalar sağlar.
MoA yaklaşımının temel pratik maliyeti nedir?
Her katman daha fazla LLM çağrısı ekler, böylece MoA daha iyi yanıt kalitesi için ekstra bilgi işlem ve zaman harcar.