LegközelebbKövetkező útmutató
Ellenálló diffúziós desztillációs és turbó modellek
Műszaki
Műszaki ÚTMUTATÓ
A diffúziós képmodellek általában új képeket generálnak, de a kutatások kimutatták, hogy néha szinte pontosan képesek reprodukálni az edzési képeket, különösen azokat, amelyek sokszor szerepeltek az edzési adatokban.
Hallgassa meg ezt az útmutatótAI-narrált · ~3 min
Ezt memorizálásnak nevezik. Ez a szerzői jog miatt számít, mert egy modellből egy védett mű közel másolata kerülhet ki, illetve a magánélet szempontjából, mert egy valós személyről készült fénykép vagy egy orvosi vizsgálat visszatorlódik.
A diffúziós modell megtanulja megfordítani a zajos folyamatot: edzés közben látja a képeket hozzáadott zajjal, és megtanulja megjósolni és megszüntetni ezt a zajt. Ha jól általánosít, megtanulja általában a képek statisztikáit, és új kombinációkat állít elő. De a neurális hálózatok egyedi példákra is elférnek, és ha egy kép százszor vagy ezerszer megjelenik az adatokban, a legolcsóbb módja annak, hogy csökkentsék rajta a képzési veszteséget, ha azt tároljuk. A kulcsfontosságú bizonyíték Carlini és munkatársai 2023-as, „Tréningadatok kinyerése diffúziós modellekből” című tanulmányából származik. Sok képet generáltak a legtöbbet sokszorosított edzésképek felirataihoz, és megjelölték a kimeneteket, amelyek rendkívül közel álltak egy edzésképhez. A Stable Diffusion-ből több mint száz, közel azonos másolatot készítettek, köztük azonosítható személyek fényképeit, és magasabb memorizálási arányt találtak a Google Imagen-ben. Külön-külön, Somepalli és munkatársai (2022-2023) kimutatták, hogy a Stable Diffusion gyakran másolt részeit vagy elrendezéseit adja ki a képzési képeknek, és a másolást duplikált képekhez és rendkívül specifikus feliratokhoz kapcsolja. Három tévhitet érdemes korrigálni. Először is, a memorizálás nem a modell normális viselkedése: a kinyert másolatok ritkák minden generációhoz képest. Másodszor, a ritka nem jelenti azt, hogy ártalmatlan, mert az elszánt felhasználó megcélozhatja azokat a képeket, amelyeket a legvalószínűbb, hogy megjegyeznek. Harmadszor, a memorizálás nem csak pontos pixelmásolás; A modellek karaktereket, logókat, vízjeleket és jellegzetes kompozíciókat reprodukálhatnak. Ez a bizonyíték szerepelt jogi vitákban, többek között olyan perekben, mint a Getty Images kontra Stability AI és az Andersen kontra Stability AI, bár az, hogy a bíróságok hogyan kezelik a modellképzést és az eredményeket, még mindig kidolgozás alatt állnak, és országonként változó. A magánélet védelmében az aggodalom élesebb a kis finomhangolású adatkészleteknél, például az orvosi vagy személyes fényképeknél, ahol minden példa nagyobb befolyással bír.
A kutatók egy modellt kérnek egy erősen sokszorosított edzéskép pontos feliratával, és olyan kimenetet kapnak vissza, amely majdnem pixel azonos az eredeti fotóval.
A tervező egy híres festmény stílusát kéri, és olyan képet kap, amely egy adott műalkotás kompozícióját és részleteit másolja, nem pedig egy új darabot.
A webes képekre kiképzett képgenerátor időnként egy tőzsdei ügynökség vízjelének torzított változatát jeleníti meg, megmutatva az ismétlődő forrásképekből származó mintákat.
A diffúziós modellt egy kis betegszkennelési sorozaton finomhangoló kórházi csapat megvizsgálja, hogy a modell képes-e a valódi szkennelések közel másolatait kiadni, mielőtt bármilyen megosztást engedélyezne.
A deduplikáció és a kimenetek hasonlóságának ellenőrzése a felelős fejlesztők szokásos gyakorlatává válik, és a kutatás folytatódik a memorizált promptok következtetési időpontban történő észlelésére. A differenciált adatvédelem gyakorlatiassá válhat az olyan érzékeny területeken, mint az orvosi képalkotás, bár a minőségi kompromisszumok továbbra is fennállnak. A jogi kép rendezetlen: a különböző országok bíróságai azt mérlegelik, hogy a képzés és az eredmények sértik-e a szerzői jogokat, és az eredmények eltérőek lehetnek. A fejlesztőkre valószínűleg nagyobb nyomás nehezedik, hogy dokumentálják a képzési adatforrásokat, és megmutassák, hogyan tesztelik és korlátozzák a regurgitációt.
Ingyenes hírlevél
Minden hétköznap reggel három ellenőrzött AI történet, egyszerű angol nyelven. Örökké ingyen, hirdetések nélkül.
Minden hétköznap egy e-mail. Egy kattintással lemondhat. Soha nem értékesítjük vagy osztjuk meg az Ön címét.
Teszteld magad
Azonnali visszajelzés minden válaszra, és megosztható tanúsítvány egy ellenőrizhető azonosítóval, miután sikeresen teljesít egy kurzust.
Támogassa az ingyenes AI oktatást. AI Understanding egy 501(c)(3) nonprofit – nincs hirdetés, nincs fizetőfal, soha. Tegyen adományt
A diffúziós képmodellek általában új képeket generálnak, de a kutatások kimutatták, hogy néha szinte pontosan képesek reprodukálni az edzési képeket, különösen azokat, amelyek sokszor szerepeltek az edzési adatokban. Ezt memorizálásnak nevezik. Ez a szerzői jog miatt számít, mert egy modellből egy védett mű közel másolata kerülhet ki, illetve a magánélet szempontjából, mert egy valós személyről készült fénykép vagy egy orvosi vizsgálat visszatorlódik.
A memorizálás olyan kimeneteket jelent, amelyek csak bizonyos edzésképek másolatai, nem pedig új képek.
Ugyanazon kép ismételt expozíciója a pontos példa illesztését teszi hatékony módszerré a veszteség csökkentésére.
A Stable Diffusion-ből több mint száz majdnem másolatot készítettek, köztük azonosítható személyek fényképeit, és magasabb arányt találtak a Imagen-ben.
A memorizált kép állandóan jelenik meg, függetlenül a magtól, így a közel azonos kimenetek szűk klaszterei jelzik a jelölteket.
A kinyert másolatok ritkák az összes kimenethez képest, de a támadók azokra a képekre összpontosíthatnak, amelyeket valószínűleg memorizálnak.
Tanulj tovább
További útmutatók készültek ehhez a témához
LegközelebbKövetkező útmutató
Ellenálló diffúziós desztillációs és turbó modellek
Műszaki