Teknik KILAVUZ

Karşılaştırmalı Öğrenme

Karşılaştırmalı öğrenme, benzer şeyleri bir araya getirecek ve benzer olmayan şeyleri bir yerleştirme alanında birbirinden ayıracak bir model öğretir.

2 min readSon güncelleme

Genel Bakış

It matters because it lets AI learn powerful representations from mostly unlabeled data, powering image search, recommendations, and multimodal models.

Derin Dalış

Karşılaştırmalı öğrenme, bir etiketi tahmin etmek yerine karşılaştırma yoluyla öğrenir: Bir bağlantı öğesi verildiğinde model, eşleşen bir 'pozitif' vektör uzayında ona yakın bir yere yerleşirken, eşleşmeyen 'negatifler' ise uzaklaşacak şekilde eğitilir. Kendi kendini denetleyen yaygın bir tarif (SimCLR gibi), aynı görüntünün iki rastgele büyütmesini (kırpma, renk değişimi, bulanıklık) alarak pozitifler yaratır; gruptaki diğer her şey negatiftir. Model, girdileri vektörlerle eşler ve bir kayıp, çift için yüksek benzerliği ve geri kalanlar için düşük benzerliği ödüllendirir. Bu, mesafenin anlamı yansıttığı yerleştirmeler üretir, dolayısıyla aşağı yöndeki bir görev çok daha az etikete ihtiyaç duyar. CLIP, görselleri başlıklarıyla eşleştirerek aynı fikri farklı yöntemlere uygular.

Teknik Bilgi

İş gücü kaybı InfoNCE'dir (benzerlik puanları üzerinden bir softmax), genellikle kosinüs benzerliğinin pozitiflerin ne kadar keskin bir şekilde tercih edildiğini kontrol eden bir sıcaklığa bölünmesiyle elde edilir. Performansın birçok olumsuzlukla birlikte artması çok önemlidir, bu nedenle büyük gruplar veya bir bellek bankası/kuyruk (MoCo'da olduğu gibi) bunları besler. BYOL ve SimSiam gibi bazı yöntemler, açık negatifleri bırakır ve bunun yerine, tüm yerleştirmelerin aynı hale geldiği çöküşü önlemek için bir momentum veya durma gradyanlı hedef ağı kullanır.

Stratejik Etki

Maliyet ve bütçe

Mimari kararlar yıllarca performansı ve işletme maliyetini etkiler.

Daha net kararlar

Teknik eğitim, ekiplerin yalnızca en yenisini değil, doğru yığını seçmesine de yardımcı olur.

Quality control

Daha iyi mühendislik seçenekleri, üretimdeki güvenilirlik olaylarını azaltır.

Karşılaştırmalı Öğrenmenin Geleceği

Karşılaştırmalı öğrenme, maskeli ve üretken öz denetim ile hem küresel benzerliği hem de ince ayrıntıları yakalayan hibrit hedeflere dönüşüyor. En büyük etkisi çok modludur: karşılaştırmalı olarak hizalanmış görüntü-metin (ve şimdi ses ve video) yerleştirmeleri aramayı, erişimle artırılmış oluşturmayı ve sıfır atışlı sınıflandırmayı destekler ve bu ayak izi büyüyecektir. Büyük partilere olan iştahın azaltılması, daha iyi büyütme ve negatif madencilik stratejileri ve yaklaşımın etiketlerin az ve pahalı olduğu tıbbi görüntüleme ve zaman serileri gibi alanlara genişletilmesi konusunda daha fazla çalışma bekliyoruz.

Gerçek Dünya Uygulaması

CLIP, paylaşılan bir resim-metin alanını öğrenerek, 'kaykaydaki köpek' gibi yazılı bir ifadeyle bir fotoğraf kitaplığında arama yapabilirsiniz.

Etiketlenmemiş fotoğraflar üzerinde görüntü omurgasını SimCLR ile önceden eğitmek, ardından yalnızca küçük bir etiketli setle hastalık tespiti için ince ayar yapmak.

Kullanıcının beğendiği öğelerin en yakın komşudan erişim için birbirine yakın yerleştirildiği ürün veya şarkı önerileri oluşturma.

Aynı kişinin iki fotoğrafının yakın, farklı kişilerin ise birbirinden uzak olmasını sağlayacak şekilde yerleştirmeleri eğiten yüz doğrulama sistemleri.

Riskler ve Korkuluklar

Bir kıyaslamayı optimize etmek daha geniş sistem zayıflıklarını gizleyebilir.

Altyapı ve bakım maliyetleri genellikle hafife alınır.

Sistemler karmaşıklaştıkça güvenlik ve gözlemlenebilirlik boşlukları büyüyebilir.

Uygulama Yol Haritası

1

Uygulamadan önce gecikmeyi, kaliteyi ve maliyet hedeflerini tanımlayın.

2

Gerçekçi yük ve veri koşulları altında kıyaslama yapın.

3

Hatalar, sapmalar ve kullanıcı etkisi için cihaz izleme.

4

Ölçeklendirmeden önce geri alma ve olay müdahale yollarını hazırlayın.

Keşfetmeye Devam Edin

Free newsletter

Get the daily AI briefing

Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.

One email each weekday. Unsubscribe in one click. We never sell or share your address.

Test yourself

Take the Contrastive Learning quiz

Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.

Testi başlat

Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation

Next guide

Birleşik Öğrenme

Sık sorulan sorular

What is Contrastive Learning?

Karşılaştırmalı öğrenme, benzer şeyleri bir araya getirecek ve benzer olmayan şeyleri bir yerleştirme alanında birbirinden ayıracak bir model öğretir. Bu önemlidir çünkü yapay zekanın çoğunlukla etiketlenmemiş verilerden güçlü temsiller öğrenmesine olanak tanır, görsel aramayı, önerileri ve çok modlu modelleri güçlendirir.

Karşılaştırmalı öğrenmenin temel amacı nedir?

Karşılaştırmalı öğrenme, eşleşen çiftlerin yakın, eşleşmeyen çiftlerin ise uzak olacağı şekilde bir yerleştirme alanını şekillendirir.

SimCLR gibi kendi kendini denetleyen bir görüntü yönteminde pozitif bir çift tipik olarak nasıl oluşturulur?

SimCLR, bir görüntünün iki artırılmış görünümünden pozitifler oluşturur ve gruptaki diğer görüntüler negatif görevi görür.

Karşılaştırmalı öğrenmeyle en çok hangi kayıp fonksiyonu ilişkilidir?

InfoNCE, bir sıcaklıkla benzerlik puanları üzerinden bir softmax, standart karşılaştırmalı hedeftir.

MoCo gibi yöntemler neden bir bellek bankası veya kuyruğu kullanıyor?

Karşılaştırmalı öğrenme birçok olumsuzluktan yararlanır; bir kuyruk, parti boyutunu yönetilebilir tutarken bunları sağlar.

BYOL ve SimSiam, açık olumsuzluklar kullanmadan özellikle hangi soruna karşı koruma sağlıyor?

Negatifler olmadan, bir model önemsiz bir şekilde her şeyi aynı vektöre eşleyebilir; durma gradyanı ve momentum hedefleri bu çöküşü önler.