SıradakiSonraki rehber
Lookahead ve Lion Optimizer'lar
Teknik
Teknik KILAVUZ
InfoNCE ve SimCLR Hedefleri
InfoNCE, bir modele eşleşen çiftleri bir araya getirmeyi ve uyumsuz çiftleri yerleştirme alanında birbirinden ayırmayı öğreten karşılaştırmalı kayıptır.
Bu kılavuzu dinleyinAI tarafından anlatılan · ~2 min
Bu sayfada2 dakika okuma
Genel Bakış
SimCLR is a landmark framework that used this loss to learn powerful image representations from unlabeled data, rivaling supervised pretraining.
Derin Dalış
InfoNCE (karşılıklı bilgi için Gürültü Karşılaştırmalı Tahmin), bir sorgunun ve onun gerçek pozitifinin, sorgudan ve birçok negatiften daha yüksek bir benzerlik puanına sahip olmasını sağlayacak şekilde bir kodlayıcıyı eğitir. Bu aslında benzerlik puanları üzerinden bir softmax çapraz entropidir: bir çapa için pozitif olanın negatiflere karşı kazanması gerekir. SimCLR (2020) bunu görüntüler için işlevsel hale getirdi: bir görüntü alın, pozitif bir çift oluşturmak için iki rastgele büyütme uygulayın, hem paylaşılan bir kodlayıcı hem de bir projeksiyon kafası aracılığıyla çalıştırın ve normalleştirilmiş sıcaklık ölçekli çapraz entropiyi (NT-Xent, bir InfoNCE varyantı) kullanın, böylece iki artırılmış görünüm çekilirken gruptaki tüm diğer görüntüler negatif gibi davranır. SimCLR, güçlü veri artırmanın, doğrusal olmayan bir projeksiyon kafasının, büyük parti boyutlarının ve ayarlanmış sıcaklığın birlikte, kendi kendini denetleyen modellerin, ön eğitim sırasında herhangi bir etiket olmadan ImageNet'teki denetlenen modellerle eşleşmesine olanak tanıdığını gösterdi.
Gerçek Dünya Uygulaması
SimCLR, etiketlenmemiş fotoğraflar üzerinde bir görüntü kodlayıcıya ön eğitim veriyor, ardından sınıflandırma için küçük bir etiketli set üzerinde ince ayar yapıyor.
Resimleri başlıklarıyla eşleştirmek için bir InfoNCE objektifi kullanan CLIP, sıfır çekimli görüntü sınıflandırmasına olanak tanır.
Öğrenilen yerleştirme alanında benzer görüntülerin birbirine yakın olduğu görsel arama/geri alma oluşturma.
Etiketlerin az olduğu ancak ham verilerin bol olduğu tıbbi veya uydu görüntüleri için kendi kendini denetleyen ön eğitim.
InfoNCE ve SimCLR Hedeflerinin Geleceği
Karşılaştırmalı hedefler SimCLR'nin çok ötesine yayılır: CLIP, InfoNCE'yi kullanarak çeşitli yöntemlerde görüntüleri metinle hizalar ve aynı kayıp, ses, video ve erişim modellerini yönlendirir. Araştırma artık bellek bankaları (MoCo) aracılığıyla büyük partilere ve birçok negatife olan bağımlılığı azaltıyor veya belirgin negatifleri tamamen ortadan kaldırıyor (BYOL, SimSiam, DINO). Temel modeller için baskın bir sınır olarak çok modlu hizalama (metin, görüntü, ses) ile karşılaştırmalı, damıtma ve maskeli modelleme ön eğitiminin sürekli olarak harmanlanmasını bekleyin.
Uygulamaya koymak
Neden önemli?
- Maliyet ve bütçe. Mimari kararlar yıllarca performansı ve işletme maliyetini etkiler.
- Daha net kararlar. Teknik eğitim, ekiplerin yalnızca en yenisini değil, doğru yığını seçmesine de yardımcı olur.
- Kalite kontrolü. Daha iyi mühendislik seçenekleri, üretimdeki güvenilirlik olaylarını azaltır.
Dikkat edin
- Bir kıyaslamayı optimize etmek daha geniş sistem zayıflıklarını gizleyebilir.
- Altyapı ve bakım maliyetleri genellikle hafife alınır.
- Sistemler karmaşıklaştıkça güvenlik ve gözlemlenebilirlik boşlukları büyüyebilir.
Sonraki adımlar
- Uygulamadan önce gecikmeyi, kaliteyi ve maliyet hedeflerini tanımlayın.
- Gerçekçi yük ve veri koşulları altında kıyaslama yapın.
- Hatalar, sapmalar ve kullanıcı etkisi için cihaz izleme.
- Ölçeklendirmeden önce geri alma ve olay müdahale yollarını hazırlayın.
Keşfetmeye Devam Edin
Ücretsiz bülten
Günlük AI brifingini alın
Hafta içi her sabah sade İngilizce yazılmış, doğrulanmış üç yapay zeka hikayesi. Sonsuza kadar ücretsiz, reklam yok.
Hafta içi her gün bir e-posta. Tek tıklamayla aboneliğinizi iptal edin. Adresinizi asla satmayız veya paylaşmayız.
Kendinizi test edin
Take the InfoNCE and SimCLR Objectives quiz
Her yanıtla ilgili anında geri bildirim ve bir kursu geçtiğinizde doğrulanabilir bir kimliğe sahip paylaşılabilir bir sertifika.
Ücretsiz AI eğitimini destekleyin. AI Understanding, bir 501(c)(3) kâr amacı gütmeyen kuruluştur; hiçbir zaman reklam yoktur, ödeme duvarı yoktur. Bağış yap
Sık sorulan sorular
What is InfoNCE and SimCLR Objectives?
InfoNCE, bir modele eşleşen çiftleri bir araya getirmeyi ve uyumsuz çiftleri yerleştirme alanında birbirinden ayırmayı öğreten karşılaştırmalı kayıptır. SimCLR, bu kaybı etiketlenmemiş verilerden güçlü görüntü temsillerini öğrenmek için kullanan ve denetimli ön eğitime rakip olan dönüm noktası niteliğinde bir çerçevedir.
InfoNCE hedefi bir modeli ne yapmaya teşvik eder?
InfoNCE, gerçek pozitifler için yüksek benzerliği ve negatifler için düşük benzerliği ödüllendiren benzerlikler üzerinde bir softmax'tır.
SimCLR'de pozitif çift nasıl oluşturulur?
SimCLR, aynı kaynak görüntünün iki artırılmış görünümünden pozitif bir çift oluşturur; diğer görüntüler negatif görevi görür.
NT-Xent / InfoNCE'de τ sıcaklığının rolü nedir?
Softmax'tan önce benzerlikleri τ'ya bölmek, kaybın pozitifleri sert negatiflerden ne kadar keskin bir şekilde ayırt ettiğini kontrol eder.
Ön eğitimden sonra SimCLR'nin projeksiyon kafasına ne olur?
SimCLR, projeksiyon kafasından önceki özelliklerin daha iyi aktarıldığını, dolayısıyla kafanın ön eğitimden sonra atıldığını buldu.
SimCLR neden büyük parti boyutlarına güvendi?
SimCLR'de gruptaki diğer görüntüler negatif görevi görür, böylece daha büyük gruplar daha fazla negatif ve daha güçlü öğrenme sağlar.
Öğrenmeye devam et
İlgili kılavuzlar
Bu konu için daha fazla rehber seçildi