Model Generatif Berasaskan Skor
Model generatif berasaskan skor mencipta data dengan mempelajari kecerunan pengedaran data — arah yang menjadikan mana-mana sampel bising kelihatan lebih seperti data sebenar.
Gambaran keseluruhan
This score-function view unifies diffusion models with stochastic differential equations and underpins many modern image generators.
Menyelam dalam
Daripada memodelkan kebarangkalian secara langsung, model berasaskan skor mempelajari skor: kecerunan kepadatan kebarangkalian log berkenaan dengan input. Mengetahui cara untuk mendorong sampel untuk meningkatkan kemungkinannya sudah cukup untuk menjana data baharu. Kerja Yang Song dan Stefano Ermon 2019 melatih rangkaian untuk menganggarkan skor ini merentas banyak aras hingar menggunakan padanan skor denoising, kemudian menjana sampel dengan dinamik Langevin — berulang kali melangkah mengikut skor dan menambahkan sedikit hingar. Kertas skor-SDE 2021 mereka menunjukkan bahawa model resapan dan berasaskan skor ialah dua muka proses berterusan yang sama yang diterangkan oleh persamaan pembezaan stokastik. Yang penting, setiap SDE mempunyai ODE 'aliran kebarangkalian' penentu yang sepadan yang berkongsi marginal yang sama, membolehkan kemungkinan yang tepat dan pensampelan pantas.
Wawasan Teknikal
Menganggarkan skor data bersih secara langsung adalah sukar apabila data jarang, jadi model dilatih mengenai data yang terganggu oleh hingar Gaussian pada pelbagai skala. Padanan skor denoising memberikan sasaran yang boleh dikendalikan: skor taburan hingar sama dengan arah hingar dibahagikan dengan varians hingar, jadi meramalkan hingar dan meramal skor pada dasarnya adalah perkara yang sama. Persampelan menyelesaikan SDE masa terbalik (atau ODE aliran kebarangkalian yang setara) bermula daripada hingar Gaussian tulen.
Kesan Strategik
Kelajuan dan skala
Visual AI boleh mengautomasikan tugas pemeriksaan, pengesanan dan penandaan pada skala.
Pilihan binaan
Pasukan kreatif boleh membuat prototaip konsep dengan lebih pantas dengan lebih sedikit semakan manual.
Pasukan dan aliran kerja
Operasi boleh menggunakan isyarat imej dan video yang sebelum ini sukar diproses.
Masa Depan Model Generatif Berasaskan Skor
Rangka kerja skor-SDE ialah enjin teori di sebalik kebanyakan kemajuan AI generatif. Penyelesai berangka yang lebih pantas, jadual hingar yang lebih baik dan ODE aliran kebarangkalian membolehkan penjanaan hampir masa nyata dan penilaian kemungkinan yang tepat. Idea pemadanan skor yang sama merebak melangkaui imej ke dalam reka bentuk struktur audio, molekul dan protein, awan titik dan simulasi saintifik, manakala model konsistensi dan pemadanan aliran membina secara langsung pada asas masa berterusan ini untuk mengecilkan penjanaan kepada beberapa langkah.
Pelaksanaan Dunia Sebenar
Rangkaian Skor Bersyarat Bunyi (NCSN) menjana wajah fotorealistik dengan mengikuti kecerunan skor yang dipelajari melalui dinamik Langevin.
Pembinaan semula imej perubatan, seperti MRI dipercepatkan, di mana skor yang dipelajari bertindak sebagai sebelum mengisi data imbasan yang kurang sampel.
Penjanaan struktur molekul dan protein dalam penemuan ubat, memodelkan konfigurasi atom 3D dengan penyebaran berasaskan skor.
Sintesis bentuk gelombang audio di mana model skor mendenoise ke arah pertuturan atau muzik yang bersih, seperti dalam vocoder berasaskan resapan.
Risiko & Pengawal
Hak imej dan persetujuan boleh menjadi risiko undang-undang jika asalnya tidak jelas.
Prestasi model boleh berbeza mengikut pencahayaan, demografi dan persekitaran.
Positif palsu mungkin tidak disedari melainkan ambang keyakinan dipantau.
Hala Tuju Pelaksanaan
Tentukan kriteria penerimaan untuk ketepatan, ingatan semula dan kos ralat.
Uji dengan data yang sepadan dengan keadaan pengeluaran sebenar.
Tambahkan semakan manusia untuk ramalan keyakinan rendah atau berimpak tinggi.
Jejaki hanyut model dan sahkan semula selepas perubahan kamera atau set data.
Teruskan Meneroka
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Score-Based Generative Models quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Panduan seterusnya
Model Berasaskan Tenaga
Soalan lazim
What is Score-Based Generative Models?
Model generatif berasaskan skor mencipta data dengan mempelajari kecerunan pengedaran data — arah yang menjadikan mana-mana sampel bising kelihatan lebih seperti data sebenar. Paparan fungsi skor ini menyatukan model resapan dengan persamaan pembezaan stokastik dan menyokong banyak penjana imej moden.
Apakah sebenarnya 'skor' yang dipelajari oleh model ini?
Skor ialah kecerunan ketumpatan data log berkenaan dengan input — ia menunjuk ke arah yang meningkatkan kemungkinan sampel.
Mengapakah model berasaskan skor yang dilatih pada data rosak dengan hingar pada pelbagai skala?
Di kawasan berketumpatan rendah, skor sebenar kurang ditakrifkan; data yang mengganggu dengan beberapa tahap hingar menjadikan padanan skor boleh dikendalikan di mana-mana sahaja.
Prosedur persampelan manakah yang digunakan oleh model berasaskan skor awal untuk menjana data?
Dinamik Langevin berulang kali menggerakkan sampel ke arah skor dan menyuntik hingar kecil, secara beransur-ansur mengubah hingar rawak kepada data realistik.
Apakah hubungan utama yang dibuat oleh kertas skor-SDE 2021?
Lagu et al. resapan bersatu dan model berasaskan skor di bawah rangka kerja persamaan pembezaan stokastik, dengan ODE aliran kebarangkalian deterministik yang sepadan.
Bagaimanakah meramalkan hingar berkaitan dengan meramal skor dalam menolak padanan skor?
Padanan skor denoising menunjukkan skor sama dengan hingar negatif dibahagikan dengan varians hingar, menjadikan ramalan hingar dan ramalan skor secara berkesan objektif yang sama.