Artık Ağlar
Artık Ağlar (ResNet'ler), katmanların tam dönüşümler yerine küçük ayarlamaları öğrenmesine olanak tanıyan 'bağlantıları atla' ekleyen derin sinir ağlarıdır.
Genel Bakış
This simple trick made it possible to train networks hundreds of layers deep, sparking a leap in image recognition accuracy.
Derin Dalış
ResNet'lerden önce, birçok katmanın istiflenmesi paradoksal olarak ağların eğitim verilerinde bile daha kötü performans göstermesine neden oluyordu; bu soruna bozulma adı veriliyordu. 2015 yılında, Microsoft araştırmacıları Kaiming He ve meslektaşları artık bloğu tanıttılar: bir katman yığınının doğrudan H(x) çıktısını üretmesini istemek yerine, onun F(x) = H(x) - x kalıntısını öğrenmesine izin verdiler, ardından orijinal x girişini bir kısayol aracılığıyla geri eklediler. Eğer bir katmana ihtiyaç yoksa hiçbir şey yapmamayı öğrenebilir (F(x) = 0). ResNet-152, 2015 ImageNet yarışmasını insan düzeyindeki tahminleri geride bırakarak yaklaşık yüzde 3,6'lık ilk 5 hatayla kazandı ve mimarisi algılama, segmentasyon ve tıbbi görüntüleme için temel bir omurga haline geldi.
Teknik Bilgi
Atlama bağlantısı her bloğun işini y = F(x) + x'e dönüştürür. Geri yayılım sırasında degrade, kimlik kısayolu boyunca değişmeden akar, dolayısıyla yüzlerce katmanda bile sıfıra yakın bir oranda kaybolamaz. Bu, derin yığınların eğitilebilir kalmasını sağlar. Kimlik kısayolları hiçbir ekstra parametre eklemez; yalnızca giriş ve çıkış boyutları farklı olduğunda küçük bir projeksiyon (1x1 evrişim) ekleme işleminden önce boyutları ayarlar.
Stratejik Etki
Speed and scale
Visual AI, inceleme, algılama ve etiketleme görevlerini geniş ölçekte otomatikleştirebilir.
Build choices
Yaratıcı ekipler, daha az manuel revizyonla konseptleri daha hızlı prototipleyebilir.
Ekip ve iş akışı
Operasyonlar, daha önce işlenmesi zor olan görüntü ve video sinyallerini kullanabilir.
Artık Ağların Geleceği
Artık bağlantılar neredeyse evrenseldir: Transformatörler, yayılma modelleri ve büyük dil modellerinin tümü bunları çok derin yığınların eğitimini dengelemek için kullanır. Etkinleştirme öncesi ResNet'ler, ResNeXt'in gruplandırılmış yolları ve kalan fikirlerin normalleştirme gerektirmeyen eğitimle birleştirilmesi gibi değişkenler üzerinde araştırmalar devam ediyor. Çevredeki mimariler saf evrişimlerden dikkat ve hibrit tasarımlara doğru kaysa bile, çekirdek atlamalı bağlantı ilkesinin varsayılan bir yapı taşı olarak varlığını sürdürmesini bekleyin.
Gerçek Dünya Uygulaması
Transfer öğrenimi için önceden eğitilmiş özellik çıkarıcılar olarak kullanılan ImageNet sınıflandırma omurgaları (ResNet-50, ResNet-101)
ResNet tabanlı kodlayıcılar kullanılarak radyoloji ve patoloji görüntülerinde tümör ve lezyon tespiti
ResNet omurgalarını kullanan Faster R-CNN ve Mask R-CNN gibi nesne algılama ve örnek segmentasyon çerçeveleri
Yayaları, araçları ve işaretleri kamera çerçevelerinden sınıflandıran kendi kendine sürüş algı hatları
Riskler ve Korkuluklar
Kaynağın belirsiz olması durumunda görüntü hakları ve rıza yasal risk haline gelebilir.
Model performansı aydınlatma, demografik özellikler ve ortamlara göre değişiklik gösterebilir.
Güven eşikleri izlenmediği sürece yanlış pozitifler fark edilmeyebilir.
Uygulama Yol Haritası
Kesinlik, geri çağırma ve hata maliyetlerine ilişkin kabul kriterlerini tanımlayın.
Gerçek üretim koşullarıyla eşleşen verilerle test edin.
Düşük güvenirliğe sahip veya yüksek etkili tahminler için gerçek kişi tarafından yapılan incelemeyi ekleyin.
Model kaymasını izleyin ve kamera veya veri kümesi değişikliklerinden sonra yeniden doğrulayın.
Keşfetmeye Devam Edin
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Residual Networks quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Özellik Piramit Ağları
Sık sorulan sorular
What is Residual Networks?
Artık Ağlar (ResNet'ler), katmanların tam dönüşümler yerine küçük ayarlamaları öğrenmesine olanak tanıyan 'bağlantıları atla' ekleyen derin sinir ağlarıdır. Bu basit hile, ağların yüzlerce katman derinliğinde eğitilmesini mümkün kıldı ve görüntü tanıma doğruluğunda bir sıçramaya yol açtı.
Artık bağlantılar özellikle hangi sorunu çözdü?
ResNet'lerden önce, daha fazla katmanın eklenmesi, eğitim verilerinde bile doğruluğun düşmesine neden oluyordu. Bağlantıları atla, katmanların optimize edilmesini kolaylaştırarak bu sorunu çözdü.
Bir artık blok aslında çıktısı olarak neyi hesaplar?
Bir artık blok, öğrenilen artıkları bir atlama bağlantısı yoluyla girişe ekleyerek y = F(x) + x çıktısını verir.
Bağlantıları atlamak neden eğitim sırasında eğimlere yardımcı oluyor?
Kimlik kısayolu, degradelerin değişmeden geriye doğru akması için doğrudan bir yol sağlayarak çok derin yığınlarda kaybolan degrade sorununu önler.
2015'in kazanan ResNet modeli kabaca kaç katmana sahipti?
152 katmana sahip ResNet-152, 2015 ImageNet yarışmasını kazanarak çok derin ağların artık başarıyla eğitilebileceğini gösterdi.
Artık bloğun katmanları F(x) = 0 öğrenirse blok ne yapar?
F(x) = 0 olduğunda çıktı sadece x olur, dolayısıyla blok bir kimlik eşlemesi haline gelir. Bu, ihtiyaç duyulmadığı takdirde ekstra katmanları zararsız hale getirir.