SıradakiSonraki rehber
Çok Görevli Ağlarda Sabit Parametre Paylaşımı
Teknik
Teknik KILAVUZ
Çok görevli öğrenme, bir modeli birden fazla ilgili görevi aynı anda gerçekleştirecek şekilde eğitir ve bunlar arasında dahili temsilleri paylaşır.
Bu kılavuzu dinleyinAI tarafından anlatılan · ~2 min
By learning shared structure, each task helps the others, often improving accuracy and data efficiency over training separate models.
Çoklu görev öğrenimi (MTL), görev başına ayrı bir model oluşturmak yerine, göreve özgü başlıklara ayrılan paylaşılan bir omurga kullanır. Örneğin, kendi kendini yöneten bir algı ağı, bir görüntü kodlayıcıyı paylaşabilir ve daha sonra arabaları tespit etmek, yolu bölümlere ayırmak ve derinliği tahmin etmek için kafalara bölünebilir. Paylaşılan katmanlar, görevler arasında faydalı olan genel özellikleri öğrenirken, her bir kafa uzmanlaşır. Bu, bir tür tümevarımsal önyargı ve düzenleme görevi görür: bir görevden gelen sinyaller, paylaşılan temsili kısıtlar, özellikle bazı görevler çok az veriye sahip olduğunda aşırı uyumu azaltır ve genellemeyi geliştirir. Asıl zorluk, görevleri dengelemektir; eğer kayıp ölçekleri veya eğimleri çatışırsa, bir görev baskın çıkabilir ve diğerleri zarar görebilir; bu soruna negatif transfer adı verilir. Kayıp ağırlıklandırma, belirsizliğe dayalı ağırlıklandırma ve gradyan cerrahisi gibi teknikler, görevlerin rekabet etmekten ziyade işbirliği içinde kalmasını amaçlamaktadır.
Nesne algılama, şerit segmentasyonu ve derinlik tahmini için tek bir görüntü kodlayıcıyı paylaşan kendi kendini yöneten algılama yığınları.
Tek bir paylaşılan ağ ile çeviri, özetleme, duyarlılık ve soru yanıtlamayı gerçekleştiren büyük dil modelleri.
Kullanıcı etkileşimini optimize etmek için tıklamaları, izlenme süresini ve satın alma işlemlerini ortaklaşa tahmin eden öneri sistemleri.
Aynı taramada bir tümörü eşzamanlı olarak tespit eden, sınırlarını bölümlere ayıran ve türünü sınıflandıran tıbbi görüntüleme modelleri.
Çok görevli öğrenme, genelci modellere yönelik eğilimin temelini oluşturuyor. Büyük dil modelleri doğası gereği çok görevlidir (çeviri, özetleme, kodlama ve Soru-Cevap işlemlerini tek bir ağ yönetir) ve çok modlu sistemler bunu metin, resim ve sese kadar genişletir. Pek çok görevi tek bir modelde birleştiren birleşik mimarilerin ve talimat ayarlamalarının artan kullanımını, ayrıca daha iyi otomatik görev dengeleme ve yönlendirmeyi (uzmanların karışımında olduğu gibi) bekleyebilirsiniz; böylece görevleri eklemek artık ayrı modeller eklemek anlamına gelmez.
Ücretsiz bülten
Hafta içi her sabah sade İngilizce yazılmış, doğrulanmış üç yapay zeka hikayesi. Sonsuza kadar ücretsiz, reklam yok.
Hafta içi her gün bir e-posta. Tek tıklamayla aboneliğinizi iptal edin. Adresinizi asla satmayız veya paylaşmayız.
Kendinizi test edin
Her yanıtla ilgili anında geri bildirim ve bir kursu geçtiğinizde doğrulanabilir bir kimliğe sahip paylaşılabilir bir sertifika.
Ücretsiz AI eğitimini destekleyin. AI Understanding, bir 501(c)(3) kâr amacı gütmeyen kuruluştur; hiçbir zaman reklam yoktur, ödeme duvarı yoktur. Bağış yap
Çok görevli öğrenme, bir modeli birden fazla ilgili görevi aynı anda gerçekleştirecek şekilde eğitir ve bunlar arasında dahili temsilleri paylaşır. Paylaşılan yapıyı öğrenerek her görev diğerine yardımcı olur ve genellikle ayrı modellerin eğitilmesiyle doğruluğu ve veri verimliliğini artırır.
MTL tek bir modeli birden fazla görev üzerinde eğitir, böylece paylaşılan katmanlar tüm görevlerde faydalı olan yapıyı yakalar.
Sabit parametre paylaşımı, genel özellikler için ortak bir hat ve her göreve özel ayrı başlıklar kullanır.
Birkaç görevi öğrenmek, paylaşılan özellikleri kısıtlar ve özellikle az verili görevlere genellikle yardımcı olan bir düzenleme görevi görür.
Çatışan eğimler veya baskın kayıplar, bir görevin diğerlerinin kalitesini düşürmesine neden olabilir; bu da yararlı aktarımın tam tersidir.
Amaç genellikle Σ wᵢ Lᵢ'dir ve görevlerin ölçek ve zorluk açısından farklılık göstermesi nedeniyle ağırlıkların seçilmesi kritik öneme sahiptir.
Öğrenmeye devam et
Bu konu için daha fazla rehber seçildi
SıradakiSonraki rehber
Çok Görevli Ağlarda Sabit Parametre Paylaşımı
Teknik