Penggabungan Model
Penggabungan model menggabungkan bobot dua atau lebih jaringan saraf terlatih menjadi satu model — tanpa pelatihan ulang atau akses ke data pelatihan asli.
Ikhtisar
It matters because it lets teams blend specialized skills cheaply, turning expensive fine-tuned models into reusable building blocks.
Menyelam Lebih Dalam
Penggabungan model menggabungkan parameter aktual (bobot) dari beberapa model yang memiliki arsitektur yang sama. Metode paling sederhana, yaitu rata-rata bobot, hanya mengambil rata-rata bobot yang sesuai. Metode yang lebih cerdas bekerja dengan 'vektor tugas' — perbedaan antara model yang telah disesuaikan dan basisnya. Menambahkan vektor tugas akan menambah keterampilan; menguranginya dapat menghilangkan perilaku yang tidak diinginkan. Teknik seperti TIES-Merging dan DARE memangkas dan mengubah skala vektor-vektor ini untuk mengurangi interferensi ketika banyak model digabungkan. Karena tidak diperlukan penurunan gradien atau data, penggabungan berjalan dalam hitungan detik di laptop. Tangkapannya: ini hanya berfungsi ketika model diturunkan dari basis yang sama dan berada di wilayah ruang bobot yang kompatibel.
Wawasan Teknis
Ide utamanya adalah fine-tuning akan memindahkan bobot di sepanjang 'loss pool' yang relatif datar di dekat model dasar. Vektor tugas secara sederhana (bobot yang disesuaikan dikurangi bobot dasar). Karena vektor-vektor ini secara kasar linier dan sering kali mendekati ortogonal pada berbagai tugas, Anda dapat menjumlahkan beberapa vektor dan model gabungan akan mempertahankan setiap keterampilan. TIES dan DARE pertama-tama memangkas delta bobot yang kecil atau bertentangan untuk memotong tanda ketidaksepakatan, lalu menggabungkannya, mencegah satu tugas menimpa tugas lainnya.
Dampak Strategis
Cost and budget
Keputusan arsitektur mendorong kinerja dan biaya pengoperasian selama bertahun-tahun.
Clearer decisions
Pendidikan teknis membantu tim memilih tumpukan yang tepat, bukan hanya yang terbaru.
Quality control
Pilihan teknik yang lebih baik mengurangi insiden keandalan dalam produksi.
Masa Depan Penggabungan Model
Harapkan penggabungan menjadi bagian standar dari model 'rantai pasokan'. Hub sudah menampung ribuan pos pemeriksaan yang dapat digabungkan, dan alat seperti mergekit membuat resep dapat dibagikan. Penelitian bergerak menuju pencarian penggabungan otomatis (algoritme evolusioner yang memilih rasio campuran berdasarkan lapisan), menggabungkan arsitektur yang sedikit berbeda, dan menggabungkan komponen Campuran Pakar dengan cepat. Seiring dengan semakin banyaknya penyempurnaan terbuka, penggabungan menawarkan cara yang hampir bebas untuk menyusun kemampuan, meskipun lisensi dan asal usul model gabungan memerlukan standar yang lebih jelas.
Implementasi Dunia Nyata
Memadukan model yang disesuaikan dengan pengkodean dengan model yang disesuaikan dengan obrolan sehingga satu LLM menulis kode dan berkomunikasi secara alami, tanpa pelatihan ulang juga.
Eksperimen penggabungan evolusioner yang menggabungkan model bahasa Jepang dengan model matematika bahasa Inggris untuk menghasilkan pemecah matematika berbahasa Jepang yang kuat.
Mengurangi vektor tugas 'toksisitas' dari bobot model untuk mengurangi keluaran berbahaya tanpa mengumpulkan data keselamatan baru.
Menggabungkan beberapa adaptor LoRA yang dilatih dengan gaya penulisan berbeda ke dalam satu model yang dapat mengganti nada secara fleksibel.
Risiko & Pagar Pembatas
Mengoptimalkan satu tolok ukur dapat menyembunyikan kelemahan sistem yang lebih luas.
Biaya infrastruktur dan pemeliharaan sering kali diremehkan.
Kesenjangan keamanan dan kemampuan observasi dapat tumbuh seiring dengan semakin kompleksnya sistem.
Peta Jalan Implementasi
Tentukan target latensi, kualitas, dan biaya sebelum penerapan.
Tolok ukur dalam kondisi beban dan data yang realistis.
Pemantauan instrumen untuk kesalahan, penyimpangan, dan dampak pengguna.
Siapkan jalur rollback dan respons insiden sebelum melakukan penskalaan.
Terus Menjelajah
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Model Merging quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Next guide
Penggabungan Model Evolusioner Sakana AI
Pertanyaan yang sering diajukan
What is Model Merging?
Penggabungan model menggabungkan bobot dua atau lebih jaringan saraf terlatih menjadi satu model — tanpa pelatihan ulang atau akses ke data pelatihan asli. Hal ini penting karena memungkinkan tim memadukan keterampilan khusus dengan biaya murah, mengubah model mahal yang telah disesuaikan menjadi elemen dasar yang dapat digunakan kembali.
Apa yang terutama digabungkan dengan penggabungan model?
Penggabungan model beroperasi secara langsung pada bobot/parameter model yang dipelajari, menggabungkannya menjadi satu kumpulan, bukan menggabungkan data atau keluaran waktu proses.
Mengapa penggabungan model dapat berjalan dalam hitungan detik pada perangkat keras sederhana?
Karena penggabungan pada dasarnya adalah aritmatika berbobot terhadap bobot yang ada, tidak diperlukan propagasi mundur atau pengiriman data yang mahal.
Masalah apa yang secara khusus ditangani oleh metode seperti Penggabungan TIES dan DARE?
TIES dan DARE memangkas dan mengubah skala vektor tugas untuk mengurangi pembaruan yang bertentangan (tanda berlawanan), sehingga satu tugas tidak menimpa tugas lainnya.
Bagaimana penggabungan dapat digunakan untuk *menghilangkan* perilaku yang tidak diinginkan?
Meniadakan (mengurangi) vektor tugas yang terkait dengan sifat yang tidak diinginkan, seperti toksisitas, dapat menjauhkan model dari perilaku tersebut.