SeterusnyaPanduan seterusnya
Lookahead dan Pengoptimum Singa
Teknikal
PANDUAN Teknikal
InfoNCE dan Objektif SimCLR
InfoNCE ialah kerugian kontrastif yang mengajar model untuk menarik pasangan padanan bersama-sama dan menolak pasangan yang tidak sepadan dalam ruang pembenaman.
Dengar panduan iniAI-diceritakan · ~2 min
Pada halaman ini2 min dibaca
Gambaran keseluruhan
SimCLR adalah rangka kerja penting yang menggunakan kehilangan ini untuk mempelajari representasi imej yang berkuasa daripada data tanpa label, menyaingi pralatihan yang diawasi.
Menyelam dalam
InfoNCE (Anggaran Noise-Contrastive untuk maklumat bersama) melatih pengekod supaya pertanyaan dan positif sebenar mempunyai skor persamaan yang lebih tinggi daripada pertanyaan dan banyak negatif. Ia pada asasnya ialah entropi silang softmax atas skor persamaan: untuk sauh, yang positif harus menang melawan yang negatif. SimCLR (2020) mengoperasikan ini untuk imej: ambil satu imej, gunakan dua penambahan rawak untuk mencipta pasangan positif, jalankan kedua-duanya melalui pengekod yang dikongsi serta kepala unjuran, dan gunakan entropi silang berskala suhu yang dinormalkan (NT-Xent, varian InfoNCE) supaya dua paparan ditambah menarik manakala semua imej lain dalam kelompok bertindak sebagai negatif. SimCLR menunjukkan bahawa penambahan data yang kuat, kepala unjuran tak linear, saiz kelompok besar dan suhu yang ditala bersama-sama membenarkan model yang diselia sendiri sepadan dengan model yang diselia pada ImageNet — tanpa sebarang label semasa pralatihan.
Pelaksanaan Dunia Sebenar
SimCLR melatih pengekod imej pada foto tidak berlabel, kemudian menala halus pada set berlabel kecil untuk pengelasan.
CLIP menggunakan objektif InfoNCE untuk memadankan imej dengan kapsyennya, membolehkan klasifikasi imej tangkapan sifar.
Membina carian/pendapatan visual di mana imej yang serupa terletak berdekatan dalam ruang benam yang dipelajari.
Pralatihan diselia sendiri untuk imej perubatan atau satelit di mana label adalah terhad tetapi data mentah adalah banyak.
Masa Depan InfoNCE dan Objektif SimCLR
Objektif kontrastif merebak jauh melangkaui SimCLR: CLIP menjajarkan imej dengan teks menggunakan InfoNCE merentas modaliti, dan kehilangan yang sama memacu model audio, video dan perolehan semula. Penyelidikan kini mengurangkan pergantungan pada kumpulan besar dan banyak negatif melalui bank memori (MoCo), atau mengalih keluar negatif eksplisit sepenuhnya (BYOL, SimSiam, DINO). Jangkakan penggabungan berterusan pralatihan kontrastif, penyulingan dan pemodelan bertopeng, dengan penjajaran berbilang mod (teks, imej, audio) sebagai sempadan dominan untuk model asas.
Mempraktikkannya
Mengapa ia penting
- Kos dan bajet. Keputusan seni bina memacu prestasi dan kos operasi selama bertahun-tahun.
- Keputusan yang lebih jelas. Pendidikan teknikal membantu pasukan memilih timbunan yang betul, bukan hanya yang terbaharu.
- Kawalan kualiti. Pilihan kejuruteraan yang lebih baik mengurangkan insiden kebolehpercayaan dalam pengeluaran.
Berhati-hati untuk
- Mengoptimumkan satu penanda aras boleh menyembunyikan kelemahan sistem yang lebih luas.
- Kos infrastruktur dan penyelenggaraan sering dipandang remeh.
- Jurang keselamatan dan pemerhatian boleh berkembang apabila sistem menjadi lebih kompleks.
Langkah seterusnya
- Tentukan sasaran kependaman, kualiti dan kos sebelum pelaksanaan.
- Penanda aras di bawah beban realistik dan keadaan data.
- Pemantauan instrumen untuk ralat, drift dan kesan pengguna.
- Sediakan laluan balik dan tindak balas insiden sebelum penskalaan.
Teruskan Meneroka
Newsletter percuma
Dapatkan taklimat AI harian
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Take the InfoNCE and SimCLR Objectives quiz
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
Soalan lazim
Apakah Objektif InfoNCE dan SimCLR?
InfoNCE ialah kerugian kontrastif yang mengajar model untuk menarik pasangan padanan bersama-sama dan menolak pasangan yang tidak sepadan dalam ruang pembenaman. SimCLR ialah rangka kerja penting yang menggunakan kehilangan ini untuk mempelajari perwakilan imej yang berkuasa daripada data tidak berlabel, menyaingi pralatihan diselia.
Apakah yang digalakkan oleh objektif InfoNCE untuk dilakukan oleh model?
InfoNCE ialah softmax atas persamaan yang memberi ganjaran kepada persamaan tinggi untuk positif sebenar dan persamaan rendah untuk negatif.
Dalam SimCLR, bagaimana pasangan positif dicipta?
SimCLR menjana pasangan positif daripada dua paparan tambahan bagi imej sumber yang sama; imej lain berfungsi sebagai negatif.
Apakah peranan yang dimainkan oleh suhu τ dalam NT-Xent / InfoNCE?
Membahagikan persamaan dengan τ sebelum softmax mengawal betapa ketara kerugian membezakan positif daripada negatif keras.
Apakah yang berlaku kepada kepala unjuran SimCLR selepas pralatihan?
SimCLR mendapati bahawa ciri sebelum kepala unjuran memindahkan lebih baik, jadi kepala dibuang selepas pralatihan.
Mengapa SimCLR bergantung pada saiz kelompok besar?
Dalam SimCLR imej lain dalam kelompok bertindak sebagai negatif, jadi kelompok yang lebih besar memberikan lebih banyak negatif dan pembelajaran yang lebih kukuh.
Teruskan belajar
Panduan berkaitan
Lebih banyak panduan dipilih untuk topik ini