SelanjutnyaPanduan berikutnya
Jaringan Jalan Raya dan Lewati Koneksi
Teknis
PANDUAN Teknis
Jaringan kapsul adalah arsitektur saraf yang mengelompokkan neuron ke dalam 'kapsul' yang menghasilkan vektor yang mengkode apakah suatu fitur ada dan posenya (posisi, orientasi, skala).
Dengarkan panduan iniDiceritakan oleh AI · ~2 min
Mereka bertujuan untuk memperbaiki kebutaan inti dalam jaringan konvolusional standar: kehilangan jejak hubungan spasial antar bagian.
Diusulkan oleh Geoffrey Hinton, Sara Sabour, dan Nicholas Frosst pada tahun 2017, jaringan kapsul menggantikan keluaran neuron skalar dengan vektor. Panjang vektor mewakili probabilitas keberadaan suatu entitas (seperti mata atau hidung), sedangkan orientasinya mengkodekan parameter pose. Kapsul tingkat rendah memprediksi pose kapsul tingkat tinggi melalui matriks transformasi, dan proses yang disebut perutean dinamis berdasarkan kesepakatan memutuskan prediksi mana yang harus dipercaya. Ketika beberapa bagian kapsul menyetujui keseluruhan yang sama, perutean memperkuat koneksi tersebut. CapsNet asli mencapai hasil yang kuat di MNIST dan sangat kuat terhadap tumpang tindih angka dan transformasi affine, mengatasi 'masalah Picasso' di mana CNN menerima fitur wajah campur aduk sebagai wajah yang valid.
Mengklasifikasikan angka tulisan tangan pada MNIST sambil merekonstruksi masukan dari vektor kapsul, menunjukkan parameter pose yang bermakna.
Memisahkan dua digit yang tumpang tindih (tugas MultiMNIST) dengan mengelompokkan piksel mana yang termasuk dalam entitas mana.
Penelitian pencitraan medis menggunakan kapsul untuk mendeteksi nodul paru-paru atau tumor otak yang memerlukan hubungan spasial sebagian-keseluruhan.
Mengenali objek dari sudut pandang baru dengan lebih sedikit contoh pelatihan, memanfaatkan kesetaraan sudut pandang bawaan arsitektur.
Jaringan kapsul tetap menjadi arah penelitian dibandingkan standar yang diterapkan, terutama karena perutean dinamis mahal secara komputasi dan skalanya buruk pada gambar besar seperti ImageNet. Pekerjaan selanjutnya mengeksplorasi perutean EM (Kapsul Matriks) dan perutean berbasis perhatian mandiri untuk meningkatkan efisiensi. Seiring dengan meningkatnya minat terhadap kesetaraan, efisiensi sampel, dan hierarki bagian-keseluruhan yang dapat ditafsirkan, gagasan kapsul terus memengaruhi penelitian, termasuk proposal GLOM Hinton selanjutnya, bahkan ketika Transformers mendominasi visi arus utama.
Buletin gratis
Tiga cerita AI terverifikasi setiap pagi hari kerja, ditulis dalam bahasa Inggris sederhana. Gratis selamanya, tanpa iklan.
Satu email setiap hari kerja. Berhenti berlangganan dalam satu klik. Kami tidak pernah menjual atau membagikan alamat Anda.
Uji diri Anda sendiri
Umpan balik instan untuk setiap jawaban, dan sertifikat yang dapat dibagikan dengan ID yang dapat diverifikasi setelah Anda lulus kursus.
Mendukung pendidikan AI gratis. AI Understanding adalah organisasi nirlaba 501(c)(3) — tanpa iklan, tanpa paywall, selamanya. Berikan sumbangan
Jaringan kapsul adalah arsitektur saraf yang mengelompokkan neuron ke dalam 'kapsul' yang menghasilkan vektor yang mengkode apakah suatu fitur ada dan posenya (posisi, orientasi, skala). Mereka bertujuan untuk memperbaiki kebutaan inti dalam jaringan konvolusional standar: kehilangan jejak hubungan spasial antar bagian.
Panjang vektor (besarnya) mengkodekan probabilitas keberadaan entitas, sedangkan orientasinya mengkodekan parameter pose seperti posisi dan rotasi.
CNN dengan max-pooling membuang hubungan spasial yang tepat, sehingga wajah dengan fitur yang salah tempat masih bisa mendapat skor tinggi. Ini adalah kapsul 'masalah Picasso' yang coba diperbaiki.
Perutean dinamis berdasarkan perjanjian secara berulang memperkuat hubungan antar kapsul yang prediksinya sesuai dengan keluaran kapsul yang lebih tinggi.
Makalah tahun 2017 'Perutean Dinamis Antar Kapsul' ditulis oleh Sara Sabour, Nicholas Frostt, dan Geoffrey Hinton.
Nonlinier squash mengecilkan vektor-vektor pendek menuju nol dan membatasi vektor-vektor panjang mendekati panjang satu, sehingga besaran dapat dibaca sebagai probabilitas sementara orientasi (pose) dipertahankan.
Teruslah belajar
Panduan lainnya dipilih untuk topik ini
SelanjutnyaPanduan berikutnya
Jaringan Jalan Raya dan Lewati Koneksi
Teknis