Jaringan Residu
Jaringan Residual (ResNets) adalah jaringan neural dalam yang menambahkan 'lewati koneksi' yang memungkinkan lapisan mempelajari penyesuaian kecil, bukan transformasi penuh.
Ikhtisar
This simple trick made it possible to train networks hundreds of layers deep, sparking a leap in image recognition accuracy.
Menyelam Lebih Dalam
Sebelum ResNets, menumpuk banyak lapisan secara paradoks membuat kinerja jaringan menjadi lebih buruk, bahkan pada data pelatihan, sebuah masalah yang disebut degradasi. Pada tahun 2015, peneliti Microsoft Kaiming He dan rekannya memperkenalkan blok sisa: alih-alih meminta tumpukan lapisan untuk menghasilkan keluaran H(x) secara langsung, mereka membiarkannya mempelajari sisa F(x) = H(x) - x, lalu menambahkan masukan asli x kembali melalui pintasan. Jika suatu lapisan tidak diperlukan, ia dapat belajar untuk tidak melakukan apa pun (F(x) = 0). ResNet-152 memenangkan kompetisi ImageNet tahun 2015 dengan kesalahan 5 teratas sekitar 3,6 persen, mengalahkan perkiraan tingkat manusia, dan arsitekturnya menjadi tulang punggung dasar untuk deteksi, segmentasi, dan pencitraan medis.
Wawasan Teknis
Koneksi lewati mengubah pekerjaan setiap blok menjadi y = F(x) + x. Selama propagasi mundur, gradien yang mengalir melalui pintasan identitas tidak berubah, sehingga tidak dapat hilang hingga mendekati nol bahkan pada ratusan lapisan. Ini membuat tumpukan yang dalam tetap bisa dilatih. Pintasan identitas tidak menambahkan parameter tambahan; hanya ketika ukuran input dan output berbeda barulah proyeksi kecil (konvolusi 1x1) menyesuaikan dimensi sebelum penambahan.
Dampak Strategis
Kecepatan dan skala
Visual AI dapat mengotomatiskan tugas inspeksi, deteksi, dan penandaan dalam skala besar.
Build choices
Tim kreatif dapat membuat prototipe konsep lebih cepat dengan lebih sedikit revisi manual.
Team and workflow
Pengoperasiannya dapat menggunakan sinyal gambar dan video yang sebelumnya sulit diproses.
Masa Depan Jaringan Residual
Koneksi sisa kini hampir bersifat universal: Transformer, model difusi, dan model bahasa besar semuanya menggunakannya untuk menstabilkan pelatihan tumpukan yang sangat dalam. Penelitian berlanjut pada varian seperti ResNets pra-aktivasi, jalur yang dikelompokkan ResNeXt, dan menggabungkan ide sisa dengan pelatihan bebas normalisasi. Harapkan prinsip inti lewati koneksi untuk tetap bertahan sebagai blok bangunan default, bahkan ketika arsitektur di sekitarnya beralih dari konvolusi murni menuju perhatian dan desain hibrida.
Implementasi Dunia Nyata
Tulang punggung klasifikasi ImageNet (ResNet-50, ResNet-101) digunakan sebagai ekstraktor fitur terlatih untuk pembelajaran transfer
Deteksi tumor dan lesi pada gambar radiologi dan patologi menggunakan encoder berbasis ResNet
Kerangka kerja deteksi objek dan segmentasi instans seperti Faster R-CNN dan Mask R-CNN yang menggunakan tulang punggung ResNet
Saluran persepsi self-driving yang mengklasifikasikan pejalan kaki, kendaraan, dan rambu dari bingkai kamera
Risiko & Pagar Pembatas
Hak citra dan persetujuan dapat menjadi risiko hukum jika asal usulnya tidak jelas.
Performa model dapat bervariasi berdasarkan pencahayaan, demografi, dan lingkungan.
Positif palsu mungkin tidak diketahui kecuali ambang batas keyakinan dipantau.
Peta Jalan Implementasi
Tentukan kriteria penerimaan untuk biaya presisi, penarikan kembali, dan kesalahan.
Uji dengan data yang sesuai dengan kondisi produksi sebenarnya.
Tambahkan tinjauan manusia untuk prediksi dengan tingkat keyakinan rendah atau dampak tinggi.
Lacak penyimpangan model dan validasi ulang setelah kamera atau kumpulan data berubah.
Terus Menjelajah
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Residual Networks quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Fitur Jaringan Piramida
Pertanyaan yang sering diajukan
What is Residual Networks?
Jaringan Residual (ResNets) adalah jaringan neural dalam yang menambahkan 'lewati koneksi' yang memungkinkan lapisan mempelajari penyesuaian kecil, bukan transformasi penuh. Trik sederhana ini memungkinkan untuk melatih jaringan sedalam ratusan lapisan, sehingga memicu lompatan dalam akurasi pengenalan gambar.
Masalah apa yang secara spesifik dipecahkan oleh koneksi sisa?
Sebelum ResNets, menambahkan lebih banyak lapisan menyebabkan penurunan akurasi bahkan pada data pelatihan. Lewati koneksi, perbaiki ini dengan membuat lapisan mudah untuk dioptimalkan.
Apa yang sebenarnya dihitung oleh blok sisa sebagai outputnya?
Blok sisa mengeluarkan y = F(x) + x, menambahkan sisa yang dipelajari ke masukan melalui koneksi lewati.
Mengapa lewati koneksi membantu gradien selama pelatihan?
Pintasan identitas menyediakan jalur langsung bagi gradien untuk mengalir mundur tanpa perubahan, mencegah masalah gradien hilang di tumpukan yang sangat dalam.
Kira-kira berapa banyak lapisan yang dimiliki model ResNet pemenang tahun 2015?
ResNet-152, dengan 152 lapisan, memenangkan kompetisi ImageNet tahun 2015, menunjukkan bahwa jaringan yang sangat dalam kini dapat dilatih dengan sukses.
Jika lapisan blok sisa mengetahui F(x) = 0, apa yang dilakukan blok tersebut?
Ketika F(x) = 0, outputnya hanya x, sehingga blok tersebut menjadi pemetaan identitas. Hal ini membuat lapisan tambahan tidak berbahaya jika tidak diperlukan.