DalšíDalší průvodce
Pokyny britského ICO pro umělou inteligenci a ochranu dat
Společnost
PRŮVODCE společností
Glaze a Nightshade jsou bezplatné nástroje Chicagské univerzity, které přidávají do kresby malé, pečlivě optimalizované změny, aby je AI modely špatně četly: Glaze se snaží zabránit modelům v kopírování stylu umělce a Nightshade se snaží otrávit tréninková data, aby se modely naučily nesprávné asociace.
Poslechněte si tento návodAI-vyprávěný · ~3 min
Poskytují umělcům určitou páku proti neoprávněnému školení, ale výzkumníci prokázali, že je lze oslabit nebo odstranit, takže jsou spíše odstrašujícím prostředkem než zárukou.
Both tools come from the SAND Lab at the University of Chicago, led by Ben Zhao. Glaze was released in 2023 and Nightshade in January 2024, and both are free. Glaze also has a web version, WebGlaze, for artists without powerful computers. Glaze addresses style mimicry. Someone can fine-tune an image model on a few dozen pieces by one artist, then produce unlimited work in that style. Glaze adds a perturbation, a pattern of small pixel changes, that makes the artwork appear to a model's image encoder as though it were in a different style. A model fine-tuned on glazed images learns the wrong style, while a person sees little change. Nightshade is offensive rather than defensive. It targets training on scraped data. A shaded image of a dog is changed so a model perceives features of something else, such as a cat. Because each concept appears in relatively few training images compared with the whole dataset, the researchers argued that a modest number of poisoned samples could make a model respond to "dog" with distorted results. The aim is to raise the cost of scraping without permission. How well do they work? The perturbations are tuned against specific model components, and that is their weakness. A 2024 study by researchers at ETH Zurich and Google DeepMind found that simple methods, such as noisy upscaling, could remove Glaze-style protections enough for mimicry to succeed. Later work, including LightShed in 2025, trained detectors to spot and strip poisoning perturbations. The Glaze team has disputed some findings and updated its tools. The key misconception is that protection is permanent. An image published today cannot be updated later, while attackers and models keep changing. The tools can also leave visible artifacts, especially at high intensity.
Digitální malířka projde každý nový kus přes Glaze, než jej odešle, takže někdo, kdo doladí LoRA v jejím portfoliu, získá výstupy, které neodpovídají jejímu štětci a paletě.
Ilustrátorka aplikuje Nightshade na obrázky draků, které zveřejňuje, s cílem vytvořit seškrábané kopie, které naučí model vizuálním rysům nesouvisejícího konceptu.
Umělec porovná nastavení intenzity glazury a zvolí nižší úroveň pro jemný akvarel, protože vyšší nastavení zanechalo viditelné artefakty v plochých barevných plochách.
Malá umělecká komunita diskutuje o výzkumu, který ukazuje, že upscaling může odstranit ochranu, a rozhodla se zkombinovat Glaze s opt-out registry a nastavením platformy, než se spoléhat pouze na něj.
Soupeření mezi nástroji narušení a metodami odstraňování se podobá jiným nepřátelským závodům ve zbrojení a dosavadní výzkumy naznačují, že obránci jsou ve strukturální nevýhodě, protože publikované obrázky jsou opraveny, zatímco útoky se neustále zlepšují. Glaze a Nightshade jsou stále oceňovány mnoha umělci jako způsob, jak zvýšit náklady na zneužití a signalizovat nesouhlas. Dlouhodobější ochrana bude pravděpodobněji pocházet z kombinace právních pravidel týkajících se školicích údajů, licenčních ujednání, standardů původu a politik platforem. Umělci by měli používat tyto nástroje s realistickými očekáváními a zachovat ostatní opatření.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Glaze a Nightshade jsou bezplatné nástroje Chicagské univerzity, které přidávají do kresby malé, pečlivě optimalizované změny, aby je AI modely špatně četly: Glaze se snaží zabránit modelům v kopírování stylu umělce a Nightshade se snaží otrávit tréninková data, aby se modely naučily nesprávné asociace. Poskytují umělcům určitou páku proti neoprávněnému školení, ale výzkumníci prokázali, že je lze oslabit nebo odstranit, takže jsou spíše odstrašujícím prostředkem než zárukou.
Glaze se zaměřuje na lidi, kteří dolaďují modely na obrazech umělce, aby reprodukovali tento styl.
Glaze je obranná a chrání styl jednoho umělce. Nightshade je urážlivý a jeho cílem je zkazit to, co se modelka dozví z poškrábaných obrázků.
Glaze posouvá reprezentaci prvků obrázku směrem k návnadovému stylu, takže jemné ladění se místo toho naučí tento styl.
Optimalizace omezuje, jak odlišný obraz lidem vypadá, a zároveň maximalizuje, jak odlišný vypadá od modelu.
Studie ukázala, že nenákladné předběžné zpracování by mohlo zrušit ochrany a umožnit tak úspěšné napodobování stylu.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Pokyny britského ICO pro umělou inteligenci a ochranu dat
Společnost