SeterusnyaPanduan seterusnya
Z-Loss dan Kestabilan Latihan
Teknikal
PANDUAN Teknikal
Kehilangan engsel menghukum contoh klasifikasi apabila margin yang ditandatangani jatuh di bawah satu, termasuk mata terklasifikasi dengan betul yang terletak terlalu dekat dengan sempadan keputusan.
Dengar panduan iniAI-diceritakan · ~3 min
Ia penting untuk menyokong mesin vektor kerana meminimumkan kehilangan engsel bersama penalti margin menggalakkan sempadan pemisah yang bertolak ansur dengan beberapa ralat sambil mencari margin yang lebih luas.
Untuk pengelasan binari, kodkan label sebagai y dalam {-1, +1} dan biarkan f(x) menjadi skor keputusan model. Margin yang ditandatangani ialah y kali f(x). Kehilangan engsel ialah maks(0, 1 - y f(x)). Contoh yang diklasifikasikan dengan betul dengan skor dalam arah yang betul masih boleh mengalami kerugian jika ia terletak dalam margin unit. Titik pada atau di luar margin mempunyai kehilangan engsel sifar. Mata salah klasifikasi mempunyai margin yang ditandatangani negatif dan menerima penalti lebih daripada satu. Kehilangan ini menggalakkan pengelas untuk memisahkan kelas dengan margin, bukan semata-mata untuk menetapkan label latihan yang betul. Dalam mesin vektor sokongan linear, objektif mengimbangi lebar margin dengan jumlah kerugian engsel, dengan parameter penyelarasan mengawal pertukaran. Penalti yang lebih kuat untuk pelanggaran boleh memuatkan data latihan dengan lebih ketat; membenarkan lebih banyak pelanggaran boleh memihak kepada sempadan yang lebih luas dan mudah. Kaedah kernel mengubah perwakilan ciri sambil mengekalkan objektif berasaskan margin. Pertimbangkan contoh hipotesis dengan label +1 dan skor 0.4. Marginnya ialah 0.4 dan kerugiannya ialah 0.6. Jika contoh positif lain mempunyai skor 1.3, kerugiannya adalah sifar. Jika kes berlabel negatif mempunyai skor 0.5, margin yang ditandatangani ialah -0.5 dan kerugiannya bersamaan dengan 1.5. Nilai ini menunjukkan mengapa ketepatan pengelasan sahaja tidak menentukan kehilangan engsel. Kehilangan logistik juga cembung dan sensitif margin, tetapi tidak seperti kehilangan engsel, ia terus memberikan penalti positif kepada contoh yang diklasifikasikan dengan betul, malah jauh melebihi margin. Bentuk probabilistiknya bersambung secara semula jadi dengan kemungkinan log. Kehilangan engsel sendiri bukanlah anggaran kebarangkalian yang ditentukur. SVM boleh dipasangkan dengan penentukuran kebarangkalian apabila kebarangkalian diperlukan, menggunakan proses pengesahan yang sesuai. Skalakan ciri, sesuaikan penyelarasan pada lipatan latihan dan nilai kos ralat pada data perwakilan. Kehilangan engsel tidak menentukan ambang keputusan yang ideal untuk setiap permohonan; akibat perniagaan mungkin memerlukan keputusan ambang atau wajaran kelas yang berasingan.
Pengelas binari hipotetikal memberikan kes yang dilabel dengan betul margin bertanda 0.4. Kehilangan engselnya ialah maks(0, 1 - 0.4) = 0.6, kerana titiknya berada di sebelah yang betul tetapi di dalam jidar.
Contoh salah label telah menandatangani margin -0.5. Kehilangan engselnya ialah maks(0, 1 - (-0.5)) = 1.5, mencerminkan kedua-dua sisi yang salah dan jarak dari keperluan margin.
Pengelas vektor sokongan membandingkan kehilangan engsel dengan kehilangan logistik semasa latihan. Objektif SVM menekankan pelanggaran margin; kehilangan logistik terus bertindak balas kepada semua contoh dan menghasilkan tafsiran kebarangkalian hanya dengan pertimbangan pemodelan atau penentukuran tambahan.
Jurutera menskalakan ciri input sebelum menala parameter regularisasi SVM. Skala ciri mempengaruhi jarak dan margin, jadi penalaan tanpa prapemprosesan yang konsisten boleh mengelirukan perbandingan.
Pengelasan berasaskan margin kekal berguna apabila sempadan yang jelas dan kawalan ke atas pelanggaran margin penting. Aliran kerja praktikal harus menyatakan sama ada pelaksanaan menggunakan engsel atau engsel kuasa dua, cara ciri diskalakan dan cara nilai penyelarasan dipilih. Jika pengguna hiliran memerlukan anggaran risiko, pasukan harus menilai kebarangkalian yang ditentukur secara berasingan dan bukannya menukar skor keputusan terus kepada peratusan. Pemantauan boleh membandingkan taburan margin dan kadar ralat khusus kelas dari semasa ke semasa. Antara muka penjelasan yang lebih baik boleh menunjukkan pemerhatian yang terletak berhampiran sempadan, di mana ketidakpastian selalunya paling berbangkit, sambil mengekalkan skor berbeza daripada kebarangkalian.
Newsletter percuma
Tiga cerita AI yang disahkan setiap pagi hari bekerja, ditulis dalam Bahasa Inggeris biasa. Percuma selamanya, tiada iklan.
Satu e-mel setiap hari bekerja. Berhenti melanggan dalam satu klik. Kami tidak pernah menjual atau berkongsi alamat anda.
Uji diri anda
Maklum balas segera pada setiap jawapan, dan sijil yang boleh dikongsi dengan ID yang boleh disahkan sebaik sahaja anda lulus kursus.
Sokong pendidikan AI percuma. AI Understanding ialah pertubuhan bukan keuntungan 501(c)(3) — tiada iklan, tiada bayaran dinding, selamanya. Buat derma
Kehilangan engsel menghukum contoh klasifikasi apabila margin yang ditandatangani jatuh di bawah satu, termasuk mata terklasifikasi dengan betul yang terletak terlalu dekat dengan sempadan keputusan. Ia penting untuk menyokong mesin vektor kerana meminimumkan kehilangan engsel bersama penalti margin menggalakkan sempadan pemisah yang bertolak ansur dengan beberapa ralat sambil mencari margin yang lebih luas.
Apabila margin yang ditandatangani adalah sekurang-kurangnya satu, 1 tolak ia adalah tidak positif dan maksimum dengan sifar ialah sifar.
Margin yang ditandatangani ialah markah masa label; negatif satu kali 0.5 sama dengan -0.5.
Kehilangan engsel menghukum mata dengan margin yang ditandatangani di bawah satu, walaupun bahagian yang diramalkan adalah betul.
Kerugian logistik berkurangan tetapi kekal positif untuk markah terhingga, manakala kerugian engsel adalah sifar melepasi margin.
Objektif SVM mengimbangi terma margin berasaskan norma dan pelanggaran kerugian engsel yang dihukum.
Teruskan belajar
Lebih banyak panduan dipilih untuk topik ini
SeterusnyaPanduan seterusnya
Z-Loss dan Kestabilan Latihan
Teknikal