Modele generative bazate pe scor
Modelele generative bazate pe scor creează date prin învățarea gradientului distribuției datelor - direcția care face ca orice eșantion zgomotos să arate mai mult ca date reale.
Prezentare generală
This score-function view unifies diffusion models with stochastic differential equations and underpins many modern image generators.
Scufundare în profunzime
În loc să modeleze direct probabilitatea, modelele bazate pe scor învață scorul: gradientul densității log-probabilității în raport cu intrarea. Este suficient să știi în ce mod de a împinge un eșantion pentru a crește probabilitatea acestuia pentru a genera date noi. Lucrarea din 2019 a lui Yang Song și Stefano Ermon a antrenat o rețea să estimeze acest scor pe mai multe niveluri de zgomot folosind potrivirea scorului de dezgomot, apoi a generat mostre cu dinamica Langevin - pasând în mod repetat de-a lungul scorului și adăugând puțin zgomot. Lucrarea scor-SDE din 2021 a arătat că modelele de difuzie și bazate pe scor sunt două fețe ale aceluiași proces continuu descris de o ecuație diferențială stocastică. În mod esențial, fiecare SDE are o ODE deterministă „flux de probabilitate” corespunzătoare care împărtășește aceleași marginali, permițând probabilități exacte și eșantionare rapidă.
Perspectivă tehnică
Estimarea directă a scorului datelor curate este dificilă acolo unde datele sunt rare, astfel încât modelul este antrenat pe date perturbate de zgomotul gaussian la mai multe scale. Potrivirea scorului de reducere a zgomotului oferă o țintă manevrabilă: scorul distribuției zgomote este egal cu direcția zgomotului împărțită la varianța zgomotului, astfel încât prezicerea zgomotului și prezicerea scorului sunt în esență același lucru. Eșantionarea rezolvă SDE-ul în timp invers (sau EDO-ul echivalent de probabilitate) pornind de la zgomotul gaussian pur.
Impact strategic
Viteză și scară
Visual AI poate automatiza sarcinile de inspecție, detectare și etichetare la scară.
Alegeri de construcție
Echipele creative pot crea prototipuri mai rapid cu mai puține revizuiri manuale.
Echipa și fluxul de lucru
Operațiunile pot utiliza semnale de imagine și video care anterior erau greu de procesat.
Viitorul modelelor generative bazate pe scor
Cadrul scor-SDE este motorul teoretic din spatele multor progrese ale AI generative. Rezolvatorii numerici mai rapidi, programele de zgomot mai bune și ODE-ul probabilității permit generarea în timp aproape real și evaluarea exactă a probabilității. Aceeași idee de potrivire a scorurilor se răspândește dincolo de imagini în designul audio, molecular și al structurii proteinelor, nori de puncte și simulare științifică, în timp ce modelele de consecvență și potrivirea fluxului se bazează direct pe aceste fundații de timp continuu pentru a reduce generarea la câțiva pași.
Implementare în lumea reală
Noise-Conditional Score Networks (NCSN) care generează fețe fotorealiste urmând gradienții de scor învățați prin dinamica Langevin.
Reconstrucția imaginilor medicale, cum ar fi RMN accelerat, în care scorul învățat acționează ca un prealabil pentru completarea datelor de scanare subeșantionate.
Generarea structurii moleculare și proteice în descoperirea medicamentelor, modelarea configurațiilor atomice 3D cu difuzie bazată pe scor.
Sinteza formei de undă audio în cazul în care modelele de partituri reduc zgomotul către vorbire sau muzică curată, ca în vocoderele bazate pe difuzie.
Riscuri și balustrade
Drepturile de imagine și consimțământul pot deveni riscuri legale dacă proveniența este neclară.
Performanța modelului poate varia în funcție de iluminare, demografie și mediu.
Falsele pozitive pot trece neobservate dacă nu sunt monitorizate pragurile de încredere.
Foaia de parcurs de implementare
Definiți criteriile de acceptare pentru costurile de precizie, rechemare și erori.
Testați cu date care corespund condițiilor reale de producție.
Adăugați o recenzie umană pentru predicții cu încredere scăzută sau cu impact ridicat.
Urmăriți derapajul modelului și revalidați după modificarea camerei sau a setului de date.
Continuați să explorați
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Score-Based Generative Models quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Următorul ghid
Modele bazate pe energie
Întrebări frecvente
What is Score-Based Generative Models?
Modelele generative bazate pe scor creează date prin învățarea gradientului distribuției datelor - direcția care face ca orice eșantion zgomotos să arate mai mult ca date reale. Această vizualizare a funcției de scor unifică modelele de difuzie cu ecuații diferențiale stocastice și stă la baza multor generatoare de imagini moderne.
Care este exact „scorul” pe care îl învață aceste modele?
Scorul este gradientul densității datelor log în raport cu intrarea - indică în direcția care crește probabilitatea unui eșantion.
De ce sunt modelele bazate pe scoruri instruite pe date corupte cu zgomot la mai multe scale?
În regiunile cu densitate scăzută, scorul adevărat este slab definit; perturbarea datelor cu mai multe niveluri de zgomot face ca potrivirea scorurilor să fie tratabilă peste tot.
Ce procedură de eșantionare au folosit modelele timpurii bazate pe scoruri pentru a genera date?
Dinamica Langevin mută în mod repetat o probă în direcția scorului și injectează zgomot mic, transformând treptat zgomotul aleatoriu în date realiste.
Ce legătură majoră a stabilit lucrarea scor-SDE 2021?
Song și colab. Difuziune unificată și modele bazate pe scoruri într-un cadru de ecuație diferențială stocastică, cu o EDO de flux de probabilitate deterministă de potrivire.
Cum se leagă predicția zgomotului cu estimarea scorului în potrivirea scorului de dezgomot?
Potrivirea scorului de reducere a zgomotului arată că scorul este egal cu zgomotul negativ împărțit la varianța zgomotului, făcând predicția de zgomot și predicția scorului efectiv același obiectiv.