Lag-en-video tekst-til-video
Make-A-Video er Metas 2022-system som gjør en tekstmelding om til et kort videoklipp uten noen gang å trene på merkede tekst-video-par.
Oversikt
It matters because it showed that the visual knowledge inside text-to-image models could be 'taught' to move using only unlabeled video.
Dypdykk
Make-A-Video, annonsert av Meta AI i september 2022, genererer noen sekunder med video fra en setning som "en hund iført en superheltkappe som flyr gjennom himmelen." Dens viktigste triks er å frikoble utseende fra bevegelse: en tekst-til-bilde-modell (bygget på et CLIP-stil felles tekst-bilde-rom og spredning) lærer hvordan ting ser ut fra milliarder av bildetekster, mens separate romlige lag lærer hvordan ting beveger seg fra umerket video alene. Dette omgår mangelen på tekst-video-par av høy kvalitet. Basismodellen produserer klipp med lav oppløsning og lav bildefrekvens, deretter interpolerer dedikerte nettverk ekstra rammer og oppskalerer romlig oppløsning. Resultatet var slående sammenhengende for sin tidsalder, selv om klippene var korte, uskarpe og utsatt for flimring og vridning.
Teknisk innsikt
Make-A-Video utvider 2D-bildegenereringskonvolusjoner og oppmerksomhet til 3D ved å legge til pseudo-temporale lag. Foruttrente romlige vekter fryses eller finjusteres mens nye temporale lag lærer bevegelse fra rå video, så ingen tekst-videoetiketter er nødvendig. Et rammeinterpolasjonsnettverk fortetter deretter tidslinjen og diffusjonsmoduler med superoppløsning øker romlige detaljer, og gjør et grovt 16-rammers utkast med lav oppløsning til et jevnere, skarpere klipp i en kaskaderørledning.
Strategisk innvirkning
Speed and scale
Visual AI kan automatisere inspeksjons-, deteksjons- og merkeoppgaver i stor skala.
Build choices
Kreative team kan prototype konsepter raskere med færre manuelle revisjoner.
Team and workflow
Operasjoner kan bruke bilde- og videosignaler som tidligere var vanskelige å behandle.
Fremtiden for Lag-en-video Tekst-til-video
Make-A-Videos image-preor-plus-unlabeled-motion-oppskrift så hele tekst-til-video-bølgen. Dens etterkommere legger vekt på lengre, høyere oppløsning, tidsmessig stabile klipp med kontrollerbar kamerabevegelse og lyd. Forvent at kjerneideen, gjenbruk av massiv bildekunnskap og billig læring av bevegelser, vil vedvare selv når arkitekturer skifter mot transformatorbasert latent diffusjon og enhetlige modeller som også aksepterer bilde- eller videokondisjonering for redigering og videreføring.
Real-World Implementering
Animerer en enkelt beskrivende setning til et kort sløyfeklipp for et innlegg på sosiale medier
Å bringe et statisk konsept som "en bamse som maler et portrett" til live som en rørende illustrasjon
Interpolering mellom to brukerleverte stillbilder for å lage en jevn overgangsvideo
Generer raske bevegelsesutkast av forestilte scener for storyboarding før filming
Risikoer og rekkverk
Bilderettigheter og samtykke kan bli juridiske risikoer hvis herkomst er uklart.
Modellytelsen kan variere på tvers av belysning, demografi og miljøer.
Falske positive kan forbli ubemerket med mindre konfidensgrenser overvåkes.
Veikart for implementering
Definer akseptkriterier for presisjons-, tilbakekallings- og feilkostnader.
Test med data som samsvarer med reelle produksjonsforhold.
Legg til menneskelig vurdering for spådommer med lav selvtillit eller stor innvirkning.
Spor modelldrift og revalider etter endringer i kamera eller datasett.
Fortsett å utforske
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Make-A-Video Text-to-Video quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Neste guide
Sora og tekst-til-video
Ofte stilte spørsmål
What is Make-A-Video Text-to-Video?
Make-A-Video er Metas 2022-system som gjør en tekstmelding om til et kort videoklipp uten noen gang å trene på merkede tekst-video-par. Det er viktig fordi det viste at den visuelle kunnskapen i tekst-til-bilde-modeller kunne "læres" til å bevege seg kun ved å bruke umerket video.
Hva var den sentrale nyvinningen som gjorde at Make-A-Video unngått å trenge merkede tekst-video-par?
Make-A-Video løser problemet: en tekst-til-bilde-modell lærer hvordan ting ser ut fra bildetekster, mens separate temporale lag lærer bevegelse fra rå, umerket video.
Hvordan legger Make-A-Video til bevegelsesevne til en bildemodell?
Den utvider 2D romlige konvolusjoner og oppmerksomhet med nye tidsmessige lag som lærer hvordan innhold endres over tid.
Hva gjør rammeinterpolasjons- og superoppløsningsstadiene?
Etter et grovt utkast med lav oppløsning og lav bildehastighet, legger interpolering til rammer og superoppløsningsmoduler øker oppløsningen.
Hva var en typisk begrensning for Make-A-Videos utgang?
Klippene var bare noen få sekunder, relativt lav oppløsning og utsatt for temporal flimring og forvrengning.