Pemindahan Pembelajaran
Pembelajaran pemindahan menggunakan semula model yang telah dilatih pada set data yang besar dan menyesuaikannya dengan tugasan baharu yang berkaitan.
Gambaran keseluruhan
Daripada bermula dari awal, anda berdiri di atas bahu model yang sudah mempelajari ciri-ciri umum yang berguna, menjimatkan masa, data, dan pengiraan yang banyak.
Menyelam dalam
Melatih model yang kukuh daripada sifar selalunya memerlukan berjuta-juta contoh berlabel dan perkakasan yang serius. Memindahkan pembelajaran menyebelahi itu. Model yang dipralatih pada set data yang besar, seperti rangkaian imej yang dilatih pada ImageNet atau model bahasa yang dilatih pada teks web, telah mempelajari corak yang berguna secara meluas: tepi dan bentuk untuk penglihatan, tatabahasa dan makna untuk teks. Anda mengambil model terlatih itu dan menyesuaikan pengetahuannya dengan masalah khusus anda yang lebih kecil. Terdapat dua gaya utama. Dalam pengekstrakan ciri anda membekukan kebanyakan rangkaian dan melatih hanya lapisan keluaran baharu di atas. Dalam penalaan halus anda juga menyahbeku beberapa lapisan yang lebih dalam dan terus melatihnya pada kadar pembelajaran yang rendah supaya model melaraskan data anda dengan perlahan tanpa melupakan perkara yang diketahuinya.
Wawasan Teknikal
Rangkaian terlatih mempelajari hierarki: lapisan awal menangkap ciri generik (tepi, tekstur, perhubungan perkataan asas) manakala lapisan kemudian menangkap konsep khusus tugas. Memindahkan pembelajaran mengeksploitasi ini. Jika tugas anda serupa dengan yang asal, bekukan lapisan awal sebagai pengekstrak ciri tetap dan latih semula hanya kepala. Jika data anda lebih berbeza, perhalusi lapisan yang lebih dalam menggunakan kadar pembelajaran yang sangat kecil supaya kemas kini menjadi lembut. Risiko besar ialah peralihan domain: jika data baharu kelihatan terlalu berbeza daripada data pralatihan, ciri yang dipinjam tidak sesuai.
Kesan Strategik
Keputusan yang lebih jelas
Ia membantu anda memisahkan tuntutan teknikal yang jelas daripada bahasa pemasaran.
Kos dan bajet
Anda boleh bertanya soalan pelaksanaan yang lebih baik sebelum menghabiskan wang atau masa.
Pasukan dan aliran kerja
Pasukan yang berkongsi pemahaman membuat keputusan produk, dasar dan pembelajaran yang lebih baik.
Masa Depan Pembelajaran Pemindahan
Pembelajaran pemindahan telah menjadi cara lalai AI dibina. Hari ini hampir tiada siapa yang melatih visi atau model bahasa yang besar dari awal; pasukan mengadaptasi model asas terlatih sebaliknya. Sempadan adalah kaedah cekap parameter seperti LoRA dan penyesuai, yang mengubah hanya sebahagian kecil pemberat untuk menyesuaikan model gergasi dengan murah. Jangkakan aliran ini semakin mendalam: model yang lebih kecil dan khusus disuling dan diperhalusi daripada yang besar, ditambah perhatian yang semakin meningkat untuk mengurangkan peralihan domain dan mengelakkan 'pelupaan bencana' apabila model disesuaikan berulang kali.
Pelaksanaan Dunia Sebenar
Memperhalusi rangkaian terlatih ImageNet untuk mengesan kecacatan tertentu pada barisan pengeluaran kilang dengan hanya beberapa ribu foto
Menyesuaikan model bahasa terlatih yang besar untuk merangka ringkasan undang-undang atau perubatan dengan menyempurnakan korpus khusus yang lebih kecil
Menggunakan model yang dilatih tentang pertuturan umum sebagai titik permulaan untuk membina pengecam loghat atau dialek tertentu
Melatih semula lapisan akhir model penglihatan untuk mengklasifikasikan penyakit tumbuhan daripada imej daun untuk aplikasi pertanian
Risiko & Pengawal
Pasukan yang berbeza mungkin menggunakan istilah yang sama secara berbeza, jadi tentukan skop lebih awal.
Penanda aras boleh kelihatan kukuh manakala prestasi dunia sebenar tidak sekata.
Mengabaikan kualiti data dan rancangan penilaian sering menghasilkan hasil yang rapuh.
Hala Tuju Pelaksanaan
Mulakan dengan definisi bahasa biasa hasil yang anda perlukan.
Pilih satu metrik kejayaan dan satu keadaan kegagalan sebelum ujian.
Jalankan juruterbang kecil dengan data perwakilan, bukan set demo yang digilap.
Dokumen di mana Pembelajaran Pemindahan membantu dan kaedah yang lebih mudah adalah lebih baik.
Teruskan Meneroka
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Transfer Learning quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Panduan seterusnya
Pembelajaran Separuh Penyeliaan
Soalan lazim
Apakah Pembelajaran Pemindahan?
Pembelajaran pemindahan menggunakan semula model yang telah dilatih pada set data yang besar dan menyesuaikannya dengan tugasan baharu yang berkaitan. Daripada bermula dari awal, anda berdiri di atas bahu model yang telah mempelajari ciri umum yang berguna, menjimatkan masa, data dan pengiraan yang besar.
Apakah idea teras pembelajaran pemindahan?
Memindahkan pembelajaran mengambil model yang telah mempelajari ciri umum dan menyesuaikannya, menjimatkan data, masa dan pengiraan.
Mengapakah anda menggunakan kadar pembelajaran yang sangat rendah apabila memperhalusi lapisan yang lebih dalam?
Kemas kini yang besar pada set data kecil boleh menulis ganti ciri terlatih yang berharga dan menjadi lebih pantas, jadi kemas kini disimpan kecil.
Situasi manakah yang paling sesuai untuk pengekstrakan ciri biasa (membekukan tapak)?
Apabila tugas sasaran hampir dengan yang asal dan data adalah terhad, ciri beku sudah relevan, jadi anda hanya memerlukan kepala baharu.
Apakah masalah yang diterangkan oleh 'anjakan domain' dalam pembelajaran pemindahan?
Jika domain sasaran kelihatan sangat berbeza daripada model yang dipralatih, ciri yang digunakan semula mungkin tidak dipindahkan dengan baik dan ketepatan menurun.
Mengapakah lapisan awal rangkaian pralatihan sering digunakan semula dengan lebih mudah berbanding lapisan terkemudian?
Lapisan awal menangkap corak peringkat rendah yang berguna secara meluas, manakala lapisan kemudian lebih khusus untuk tugas asal.