Vizuális MI ÚTMUTATÓ

GLIGEN földelt generáció

A GLIGEN (Grounded-Language-to-Image Generation) lehetővé teszi, hogy pontosan szabályozza, hogy az objektumok hol jelenjenek meg a generált képen azáltal, hogy a modell határoló dobozait és címkéit a szöveges prompt mellé adagolja.

Hallgassa meg ezt az útmutatótAI-narrált · ~2 min

Ezen az oldalon2 perc olvasás
  1. Áttekintés
  2. Mély merülés
  3. Valós megvalósítás
  4. A GLIGEN Grounded Generation jövője
  5. A gyakorlatba ültetés
  6. Folytassa a felfedezést
  7. Gyakran ismételt kérdések

Áttekintés

A homályos szöveget képpé alakítja precíz, elrendezéssel vezérelhető szintézissé.

Mély merülés

A szabványos szöveg-képmodellek küzdenek a térbeli szabályozással: „macska a kutyától balra” kérve gyakran rosszul helyezi el. A 2023-ban bemutatott GLIGEN ezt földelési bemenetek hozzáadásával oldja meg, például határolókereteket szöveges vagy képi entitásokkal, kulcspontokkal vagy referenciaképekkel párosítva. Lényeges, hogy lefagyasztja az eredeti előképzett diffúziós modell súlyait, és új, betanítható, zárt önfigyelő rétegeket fecskendez be, amelyek elnyelik a földelési tokeneket. Ez azt jelenti, hogy olyan modellre épít, mint a Stable Diffusion, anélkül, hogy megsemmisítené a tanult tudását, és a kapuzás a nulla közelében kezdődik, így az alapmodell viselkedése a képzés korai szakaszában megmarad. Az eredmény egy nyílt világú földelt generálás: tetszőleges leírt objektumokat helyezhet el meghatározott helyekre, és általánosít olyan koncepciókra és elrendezésekre, amelyeket a földelési képzés során nem látott.

Valós megvalósítás

Embléma vagy termék elhelyezése a generált hirdetés pontos régiójában határolókeret segítségével

Összetett jelenetek komponálása az egyes karakterek vagy objektumok helyének meghatározásával a renderelés előtt

Tanítási adatok generálása objektumészleléshez ismert alap-igazság doboz helyekkel

Leírt objektum befestése egy meglévő fénykép felhasználó által rajzolt területére

A GLIGEN Grounded Generation jövője

A földelt és elrendezéssel vezérelhető generálás a gyártóeszközök szabványossá válik. A GLIGEN-stílusú térkondicionálástól elvárható, hogy egyesüljön más vezérlési módszerekkel, például a ControlNettel és a regionális felszólítással, és kiterjedjen a videóra és a 3D-re, ahol az objektumok időben és térben való elhelyezése még fontosabb. Amint a modellek utasításkövető interfészt alkalmaznak, a fogd és vidd elrendezés vezérlése és a nyelv által meghatározott jelenetgrafikonok precíz kompozíciót tesznek elérhetővé azonnali tervezési trükkök nélkül.

A gyakorlatba ültetés

Miért számít

  • Sebesség és méretarány. A vizuális AI képes automatizálni az ellenőrzési, észlelési és címkézési feladatokat nagy léptékben.
  • Építési lehetőségek. A kreatív csapatok gyorsabban prototípusokat készíthetnek a koncepciókból, kevesebb kézi átdolgozással.
  • Csapat és munkafolyamat. A műveletek olyan kép- és videojeleket használhatnak, amelyeket korábban nehéz volt feldolgozni.

Vigyázz

  • A képhez fűződő jogok és a beleegyezés jogi kockázatot jelenthet, ha a származás nem egyértelmű.
  • A modell teljesítménye a világítástól, a demográfiai adatoktól és a környezettől függően változhat.
  • A hamis pozitívumok észrevétlenek maradhatnak, hacsak nem figyelik a megbízhatósági küszöböket.

Következő lépések

  1. Határozza meg a pontosság, a visszahívás és a hibaköltségek elfogadási kritériumait.
  2. Tesztelje a valós gyártási feltételeknek megfelelő adatokkal.
  3. Adjon hozzá emberi felülvizsgálatot az alacsony megbízhatóságú vagy nagy hatású előrejelzésekhez.
  4. A modell elsodródásának nyomon követése és újbóli érvényesítése a kamera vagy az adatkészlet módosítása után.

Folytassa a felfedezést

Ingyenes hírlevél

Szerezze meg a napi AI összefoglalót

Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.

Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.

Teszteld magad

Take the GLIGEN Grounded Generation quiz

Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.

Kezdő kvíz

Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt

Gyakran ismételt kérdések

Mi az a GLIGEN Grounded Generation?

A GLIGEN (Grounded-Language-to-Image Generation) lehetővé teszi, hogy pontosan szabályozza, hogy az objektumok hol jelenjenek meg a generált képen azáltal, hogy a modell határoló dobozait és címkéit a szöveges prompt mellé adagolja. A homályos szöveget képpé alakítja precíz, elrendezéssel vezérelhető szintézissé.

Milyen problémát old meg elsősorban a GLIGEN?

A GLIGEN földelési bemeneteket, például határolódobozokat ad hozzá, így Ön pontosan szabályozhatja, hogy az objektumok hol helyezkedjenek el, és az egyszerű szöveges felszólításokat rosszul kezelik.

Hogyan őrzi meg a GLIGEN az előképzett diffúziós modell ismereteit?

A GLIGEN lefagyasztja az alapmodellt, és új, zárt önfigyelő rétegeket fecskendez be, így az eredeti tanult tudás érintetlen marad.

Milyen tipikus földelési bemenetet fogad el a GLIGEN?

A GLIGEN támogatja a földelést szöveg/kép entitásokkal, kulcspontokkal és referenciaképekkel határoló dobozokon keresztül.

Miért van a GLIGEN új figyelemrétegeiben a kapu nullára inicializálva?

A nulla inicializált kapu azt jelenti, hogy a földelésnek kezdetben nincs hatása, megőrzi az eredeti modellt, és stabilan tartja az edzést, ahogy a vezérlés felfelé halad.

Mit jelent a GLIGEN-ben a „nyílt világ” földelt generáció?

A GLIGEN a földelési oktatókészletén túl általánosít, és az újszerű objektumokat meghatározott helyekre helyezi el.