Alt Aracılar ve Bağlam Yalıtımı

Dil modelleri sınırlı bir bağlam penceresi içinde çalışır ve kesin sınıra ulaşılmadan önce pencere arama sonuçları, dosya içerikleri ve eski araç çıktılarıyla doldukça kalite genellikle düşer. Alt temsilciler işi bölüşerek bu sorunu çözerler. Bazen orkestratör veya lider olarak da adlandırılan ana aracı, bir görev açıklaması yazar ve genellikle daha dar bir araç seti ile temiz bir bağlamla bir alt aracı başlatır. Alt temsilci, araçları ve nedenleri araştırır, çağırır ve ardından bir özet gönderir. Yalnızca bu özet ana aracının bağlamına girer. Desen gerçek ürünlerde görünür. Örneğin Claude Code, kullanıcıların alt aracıları kendi talimatları ve araç izinleriyle tanımlamasına olanak tanır ve çeşitli kodlama ve araştırma aracıları, keşif çalışmalarını paralel çalışanlara gönderir. Anthropic, bir lider aracının alt aracıları paralel olarak çalıştırdığı çok aracılı bir araştırma sistemi hakkında yazmıştır. Geniş araştırma sorularına ilişkin kazanımlar ve tek bir aracıya kıyasla çok daha yüksek token kullanımı bildirdi. Takaslar gerçektir. Her alt temsilci talimatları yeniden yüklediği ve bazı keşifleri tekrarladığı için maliyet artar. Koordinasyon zorlaşır: Paralel alt temsilciler birbirlerinin çalışmalarını göremezler, dolayısıyla çabayı çoğaltabilirler veya uyumsuz seçimler yapabilirler. Bu, tek bir kod parçasının farklı bölümlerinin yazılmasında olduğu gibi, görevler sıkı bir şekilde bağlantılı olduğunda özellikle bir sorundur. Bir özet, ana aracının ihtiyaç duyabileceği ayrıntıları bıraktığından ve alt aracı yalnızca görev tanımının ona söylediğini bildiğinden bilgi kaybolur. Yanlış anlamalardan biri, daha fazla temsilcinin her zaman daha iyi sonuçlar anlamına geldiğidir. Bazı uygulayıcılar, sıkı bağlantılı işler için bağlamı iyi yönetilen tek bir aracının daha güvenilir olduğunu savunuyor. Alt temsilciler, bağımsız, okuması zor ve özetlemesi kolay görevler için en iyi şekilde çalışır: arama, araştırma, kontrol etme ve toplama.