Jaringan Kapsul
Jaringan kapsul adalah arsitektur saraf yang mengelompokkan neuron ke dalam 'kapsul' yang menghasilkan vektor yang mengkode apakah suatu fitur ada dan posenya (posisi, orientasi, skala).
Ikhtisar
They aim to fix a core blindness in standard convolutional networks: losing track of spatial relationships between parts.
Menyelam Lebih Dalam
Diusulkan oleh Geoffrey Hinton, Sara Sabour, dan Nicholas Frosst pada tahun 2017, jaringan kapsul menggantikan keluaran neuron skalar dengan vektor. Panjang vektor mewakili probabilitas keberadaan suatu entitas (seperti mata atau hidung), sedangkan orientasinya mengkodekan parameter pose. Kapsul tingkat rendah memprediksi pose kapsul tingkat tinggi melalui matriks transformasi, dan proses yang disebut perutean dinamis berdasarkan kesepakatan memutuskan prediksi mana yang harus dipercaya. Ketika beberapa bagian kapsul menyetujui keseluruhan yang sama, perutean memperkuat koneksi tersebut. CapsNet asli mencapai hasil yang kuat di MNIST dan sangat kuat terhadap tumpang tindih angka dan transformasi affine, mengatasi 'masalah Picasso' di mana CNN menerima fitur wajah campur aduk sebagai wajah yang valid.
Wawasan Teknis
Mekanisme kuncinya adalah nonlinier 'squash' yang mengecilkan vektor pendek menuju nol dan vektor panjang menuju panjang satu, sehingga besaran vektor dibaca sebagai probabilitas. Perutean dinamis kemudian menjalankan beberapa iterasi dari langkah kesepakatan berbobot softmax: setiap kapsul yang lebih rendah mengirimkan prediksinya ke atas, dan koefisien penggandengan meningkat untuk kapsul yang lebih tinggi yang keluarannya selaras (melalui perkalian titik) dengan prediksi tersebut. Hal ini menggantikan pengumpulan maksimal, menjaga informasi spasial yang tepat dan bukannya membuangnya.
Dampak Strategis
Cost and budget
Keputusan arsitektur mendorong kinerja dan biaya pengoperasian selama bertahun-tahun.
Clearer decisions
Pendidikan teknis membantu tim memilih tumpukan yang tepat, bukan hanya yang terbaru.
Quality control
Pilihan teknik yang lebih baik mengurangi insiden keandalan dalam produksi.
Masa Depan Jaringan Kapsul
Jaringan kapsul tetap menjadi arah penelitian dibandingkan standar yang diterapkan, terutama karena perutean dinamis mahal secara komputasi dan skalanya buruk pada gambar besar seperti ImageNet. Pekerjaan selanjutnya mengeksplorasi perutean EM (Kapsul Matriks) dan perutean berbasis perhatian mandiri untuk meningkatkan efisiensi. Seiring dengan meningkatnya minat terhadap kesetaraan, efisiensi sampel, dan hierarki bagian-keseluruhan yang dapat ditafsirkan, gagasan kapsul terus memengaruhi penelitian, termasuk proposal GLOM Hinton selanjutnya, bahkan ketika Transformers mendominasi visi arus utama.
Implementasi Dunia Nyata
Mengklasifikasikan angka tulisan tangan pada MNIST sambil merekonstruksi masukan dari vektor kapsul, menunjukkan parameter pose yang bermakna.
Memisahkan dua digit yang tumpang tindih (tugas MultiMNIST) dengan mengelompokkan piksel mana yang termasuk dalam entitas mana.
Penelitian pencitraan medis menggunakan kapsul untuk mendeteksi nodul paru-paru atau tumor otak yang memerlukan hubungan spasial sebagian-keseluruhan.
Mengenali objek dari sudut pandang baru dengan lebih sedikit contoh pelatihan, memanfaatkan kesetaraan sudut pandang bawaan arsitektur.
Risiko & Pagar Pembatas
Mengoptimalkan satu tolok ukur dapat menyembunyikan kelemahan sistem yang lebih luas.
Biaya infrastruktur dan pemeliharaan sering kali diremehkan.
Kesenjangan keamanan dan kemampuan observasi dapat tumbuh seiring dengan semakin kompleksnya sistem.
Peta Jalan Implementasi
Tentukan target latensi, kualitas, dan biaya sebelum penerapan.
Tolok ukur dalam kondisi beban dan data yang realistis.
Pemantauan instrumen untuk kesalahan, penyimpangan, dan dampak pengguna.
Siapkan jalur rollback dan respons insiden sebelum melakukan penskalaan.
Terus Menjelajah
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Capsule Networks quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Jaringan Jalan Raya dan Lewati Koneksi
Pertanyaan yang sering diajukan
What is Capsule Networks?
Jaringan kapsul adalah arsitektur saraf yang mengelompokkan neuron ke dalam 'kapsul' yang menghasilkan vektor yang mengkode apakah suatu fitur ada dan posenya (posisi, orientasi, skala). Mereka bertujuan untuk memperbaiki kebutaan inti dalam jaringan konvolusional standar: kehilangan jejak hubungan spasial antar bagian.
Dalam jaringan kapsul, apa yang diwakili oleh PANJANG vektor keluaran kapsul?
Panjang vektor (besarnya) mengkodekan probabilitas keberadaan entitas, sedangkan orientasinya mengkodekan parameter pose seperti posisi dan rotasi.
Masalah apa dengan CNN standar yang dirancang khusus untuk diatasi oleh jaringan kapsul?
CNN dengan max-pooling membuang hubungan spasial yang tepat, sehingga wajah dengan fitur yang salah tempat masih bisa mendapat skor tinggi. Ini adalah kapsul 'masalah Picasso' yang coba diperbaiki.
Apa nama algoritma yang memutuskan kapsul tingkat rendah mana yang terhubung ke kapsul tingkat tinggi mana?
Perutean dinamis berdasarkan perjanjian secara berulang memperkuat hubungan antar kapsul yang prediksinya sesuai dengan keluaran kapsul yang lebih tinggi.
Siapa yang memperkenalkan jaringan kapsul dengan perutean dinamis pada tahun 2017?
Makalah tahun 2017 'Perutean Dinamis Antar Kapsul' ditulis oleh Sara Sabour, Nicholas Frostt, dan Geoffrey Hinton.
Apa tujuan dari fungsi 'squash' dalam jaringan kapsul?
Nonlinier squash mengecilkan vektor-vektor pendek menuju nol dan membatasi vektor-vektor panjang mendekati panjang satu, sehingga besaran dapat dibaca sebagai probabilitas sementara orientasi (pose) dipertahankan.