Spør-til-spør-redigering av kryssoppmerksomhet
Spør-til-spørring redigerer et generert bilde ved å justere tekstmeldingen mens du bruker modellens interne oppmerksomhetskart på nytt, så ved å endre ett ord byttes det elementet mens resten av scenen holdes intakt.
Oversikt
It is editing through words, not pixels.
Dypdykk
Prompt-to-Prompt (Hertz et al., 2022) er en treningsfri teknikk for tekstdrevet redigering i diffusjonsmodeller. Den viktigste innsikten er at kryssoppmerksomhetskart, som forteller modellen hvilke bilderegioner hvert ord skal påvirke, koder for den romlige utformingen av scenen. Når du gjenskaper et bilde med en litt modifisert ledetekst, injiserer metoden den originale ledetekstens oppmerksomhetskart inn i den nye kjøringen. Ved å bytte ut et ord, si "sykkel" med "motorsykkel", bytter du objektet samtidig som komposisjon og bakgrunn bevares. Å legge til et ord gir oppmerksomhet bare for de uendrede tokenene, så et nytt attributt vises uten å omstokke alt. Du kan også vekte en tokens oppmerksomhet på nytt for å styrke eller svekke effekten. Fordi det ikke krever finjustering eller masker, ble det en grunnleggende byggestein for mange senere redigeringsmetoder, inkludert InstructPix2Pix sin datagenerering.
Teknisk innsikt
Under denoising beregner kryssoppmerksomhet, for hver token, et romlig kart over hvor den går i bildet. Spør-til-forespørsel kopierer disse kartene fra den opprinnelige generasjonen til den redigerte for delte tokens. For ordbytte kartlegger den oppmerksomhet mellom tilsvarende tokens; for ekstra ord bevarer den gamle kart og lar bare nye tokens danne ny oppmerksomhet; Revekting skalerer ganske enkelt et tokens oppmerksomhetsverdier, intensiverer eller demper dets visuelle påvirkning.
Strategisk innvirkning
Speed and scale
Visual AI kan automatisere inspeksjons-, deteksjons- og merkeoppgaver i stor skala.
Build choices
Kreative team kan prototype konsepter raskere med færre manuelle revisjoner.
Team and workflow
Operasjoner kan bruke bilde- og videosignaler som tidligere var vanskelige å behandle.
Fremtiden for spørsmål-til-spørre-kryssoppmerksomhet-redigering
Kryssoppmerksomhetsmanipulasjon underbygger nå en hel familie med kontrollerbare generasjonsverktøy, og ideene strekker seg til oppmerksomhetskontroll i nyere arkitekturer og videospredning for tidsmessig konsistente redigeringer. Forvent tettere integrasjon med reell bilderedigering via inversjon, mer robust håndtering av store strukturelle endringer, og kombinasjon med instruksjonsmodeller slik at oppmerksomhetstriksene kjører usynlig under et enkelt naturlig språkgrensesnitt.
Real-World Implementering
En designer endrer 'en rød bil på en gate' til 'en blå bil på en gate' og beholder nøyaktig samme sceneoppsett.
En illustratør vekter ordet "snøaktig" på nytt for å gjøre et landskap gradvis mer vinterlig på tvers av variasjoner.
En historieforteller bytter ut "løve" med "tiger" i en melding for å beholde en identisk positur og bakgrunn for et karakterark.
En forsker bruker den til å generere sammenkoblede før/etter-bilder som treningsdata for en instruksjonsfølgende editor.
Risikoer og rekkverk
Bilderettigheter og samtykke kan bli juridiske risikoer hvis herkomst er uklart.
Modellytelsen kan variere på tvers av belysning, demografi og miljøer.
Falske positive kan forbli ubemerket med mindre konfidensgrenser overvåkes.
Veikart for implementering
Definer akseptkriterier for presisjons-, tilbakekallings- og feilkostnader.
Test med data som samsvarer med reelle produksjonsforhold.
Legg til menneskelig vurdering for spådommer med lav selvtillit eller stor innvirkning.
Spor modelldrift og revalider etter endringer i kamera eller datasett.
Fortsett å utforske
Free newsletter
Get the daily AI briefing
Three verified AI stories every weekday morning, written in plain English. Free forever, no ads.
One email each weekday. Unsubscribe in one click. We never sell or share your address.
Test yourself
Take the Prompt-to-Prompt Cross-Attention Editing quiz
Instant feedback on every answer, and a shareable certificate with a verifiable ID once you pass a course.
Support free AI education. AI Understanding is a 501(c)(3) nonprofit — no ads, no paywall, ever. Make a donation
Neste guide
Kryssoppmerksomhet
Ofte stilte spørsmål
What is Prompt-to-Prompt Cross-Attention Editing?
Spør-til-spørring redigerer et generert bilde ved å justere tekstmeldingen mens du bruker modellens interne oppmerksomhetskart på nytt, så ved å endre ett ord byttes det elementet mens resten av scenen holdes intakt. Det er redigering gjennom ord, ikke piksler.
Hvilken intern informasjon gjenbruker Prompt-to-Prompt for å bevare en scene?
Kryssoppmerksomhetskart koder der hvert ord påvirker bildet, så gjenbruk av dem holder layouten konsistent under redigeringer.
Krever Prompt-to-Prompt finjustering av modellen?
Den manipulerer oppmerksomheten på slutningstidspunktet og trenger ingen ekstra trening.
Hva oppnår revekting av et tokens oppmerksomhet?
Skalering av et symbols oppmerksomhetsverdier intensiverer eller demper hvor sterkt dette konseptet fremstår.
Hvorfor regnes Spør-til-spørring som en grunnleggende teknikk?
Den treningsfrie oppmerksomhetsmanipulasjonen ble en byggestein som ble gjenbrukt på tvers av redigeringsforskningen som fulgte.