Generativní modely založené na skóre
Generativní modely založené na skóre vytvářejí data učením se gradientu distribuce dat – směru, díky kterému každý hlučný vzorek vypadá spíše jako skutečná data.
Přehled
This score-function view unifies diffusion models with stochastic differential equations and underpins many modern image generators.
Hluboký ponor
Namísto přímého modelování pravděpodobnosti se modely založené na skóre učí skóre: gradient hustoty logaritmické pravděpodobnosti s ohledem na vstup. Vědět, jakým způsobem posouvat vzorek, aby se zvýšila jeho pravděpodobnost, stačí ke generování nových dat. Práce Yang Song a Stefano Ermon v roce 2019 vycvičila síť, aby odhadla toto skóre napříč mnoha úrovněmi šumu pomocí porovnávání skóre pro odstranění šumu, poté vygenerovala vzorky s dynamikou Langevin – opakovaně postupovala podél skóre a přidala malý šum. Jejich práce SDE z roku 2021 ukázala, že difúzní modely a modely založené na skóre jsou dvě tváře stejného kontinuálního procesu popsaného stochastickou diferenciální rovnicí. Rozhodující je, že každý SDE má odpovídající deterministický „tok pravděpodobnosti“ ODE, který sdílí stejné meze, což umožňuje přesné pravděpodobnosti a rychlé vzorkování.
Technický přehled
Odhadnout skóre čistých dat přímo je obtížné tam, kde jsou data řídká, takže model je trénován na datech narušených gaussovským šumem v různých měřítcích. Odstranění šumu porovnávání skóre poskytuje ovladatelný cíl: skóre distribuce šumu se rovná směru šumu dělenému rozptylem šumu, takže předpovídání šumu a předpovídání skóre jsou v podstatě totéž. Vzorkování řeší SDE v obráceném čase (nebo ekvivalentní pravděpodobnostní tok ODE) počínaje čistým Gaussovým šumem.
Strategický dopad
Rychlost a měřítko
Vizuální AI může automatizovat úkoly inspekce, detekce a označování ve velkém měřítku.
Volby sestavy
Kreativní týmy mohou prototypovat koncepty rychleji s menším počtem ručních revizí.
Tým a pracovní postup
Operace mohou využívat obrazové a video signály, které bylo dříve obtížné zpracovat.
Budoucnost generativních modelů založených na skóre
Rámec skóre-SDE je teoretickým motorem stojícím za velkou částí pokroku generativní umělé inteligence. Rychlejší numerické řešiče, lepší plány šumu a pravděpodobnostní tok ODE umožňují generování téměř v reálném čase a přesné vyhodnocení pravděpodobnosti. Stejná myšlenka porovnávání skóre se šíří mimo obrázky do zvuku, designu molekulárních a proteinových struktur, mračen bodů a vědecké simulace, zatímco modely konzistence a porovnávání toku staví přímo na těchto základech nepřetržitého času a zmenšují generování na hrstku kroků.
Real-World Implementace
Noise-Conditional Score Networks (NCSN) generující fotorealistické obličeje sledováním naučených gradientů skóre prostřednictvím Langevinovy dynamiky.
Rekonstrukce lékařského obrazu, jako je zrychlená magnetická rezonance, kde naučené skóre slouží jako předběžný údaj pro vyplnění podvzorkovaných dat skenování.
Generování molekulární a proteinové struktury při objevování léků, modelování 3D atomových konfigurací s difúzí založenou na skóre.
Syntéza zvukové vlny, kde modely partitury odšumují směrem k čisté řeči nebo hudbě, jako u vokodérů založených na difúzi.
Rizika a zábradlí
Obrazová práva a souhlas se mohou stát právním rizikem, pokud je původ nejasný.
Výkon modelu se může lišit podle osvětlení, demografických údajů a prostředí.
Falešně pozitivní mohou zůstat bez povšimnutí, pokud nejsou monitorovány prahové hodnoty spolehlivosti.
Plán implementace
Definujte kritéria přijatelnosti pro přesnost, stažení a náklady na chyby.
Testujte s daty, která odpovídají reálným výrobním podmínkám.
Přidejte lidskou kontrolu pro předpovědi s nízkou spolehlivostí nebo velkým dopadem.
Sledujte posun modelu a znovu ověřte po změnách kamery nebo datové sady.
Pokračujte v objevování
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Score-Based Generative Models quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Další průvodce
Energeticky založené modely
Často kladené otázky
What is Score-Based Generative Models?
Generativní modely založené na skóre vytvářejí data učením se gradientu distribuce dat – směru, díky kterému každý hlučný vzorek vypadá spíše jako skutečná data. Tento pohled na funkci skóre sjednocuje modely difúze se stochastickými diferenciálními rovnicemi a je základem mnoha moderních generátorů obrazu.
Co přesně je „skóre“, které se tyto modely učí?
Skóre je gradient hustoty log dat vzhledem ke vstupu – ukazuje směrem, který zvyšuje pravděpodobnost vzorku.
Proč jsou modely založené na skóre trénovány na datech poškozených šumem na více úrovních?
V oblastech s nízkou hustotou je skutečné skóre špatně definováno; rušivá data s několika úrovněmi šumu umožňují porovnávání skóre všude.
Jaký postup vzorkování používaly rané modely založené na skóre k generování dat?
Langevin dynamics opakovaně posouvá vzorek ve směru partitury a vstřikuje malý šum, postupně přeměňuje náhodný šum na realistická data.
Jaké hlavní spojení vytvořila studie o skóre 2021 a SDE?
Song a kol. unifikovaná difúze a modely založené na skóre v rámci stochastické diferenciální rovnice s odpovídajícím deterministickým pravděpodobnostním tokem ODR.
Jak souvisí předpovídání šumu s předpovídáním skóre při odšumování shody skóre?
Odstranění šumu porovnávání skóre ukazuje, že skóre se rovná zápornému šumu vydělenému rozptylem šumu, takže predikce šumu a predikce skóre mají prakticky stejný cíl.