NastępnyNastępny poradnik
Wytyczne brytyjskiego ICO dotyczące AI i ochrony danych
Społeczeństwo
PRZEWODNIK Społeczny
Ochrona artystów glazury i psiankowatych
Glaze i Nightshade to darmowe narzędzia stworzone przez Uniwersytet Chicagowski, które wprowadzają małe, starannie zoptymalizowane zmiany do dzieł sztuki, powodując, że modele AI błędnie je odczytują: Glaze próbuje powstrzymać modele przed kopiowaniem stylu artysty, a Nightshade stara się zatruć dane treningowe, aby modele nauczyły się błędnych powiązań.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~3 min
Na tej stronie4 minuty czytania
Przegląd
Dają one artystom pewną przewagę w walce z nieautoryzowanym treningiem, jednak badacze wykazali, że można je osłabić lub usunąć, dlatego stanowią czynnik odstraszający, a nie gwarancję.
Głębokie nurkowanie
Both tools come from the SAND Lab at the University of Chicago, led by Ben Zhao. Glaze was released in 2023 and Nightshade in January 2024, and both are free. Glaze also has a web version, WebGlaze, for artists without powerful computers. Glaze addresses style mimicry. Someone can fine-tune an image model on a few dozen pieces by one artist, then produce unlimited work in that style. Glaze adds a perturbation, a pattern of small pixel changes, that makes the artwork appear to a model's image encoder as though it were in a different style. A model fine-tuned on glazed images learns the wrong style, while a person sees little change. Nightshade is offensive rather than defensive. It targets training on scraped data. A shaded image of a dog is changed so a model perceives features of something else, such as a cat. Because each concept appears in relatively few training images compared with the whole dataset, the researchers argued that a modest number of poisoned samples could make a model respond to "dog" with distorted results. The aim is to raise the cost of scraping without permission. How well do they work? The perturbations are tuned against specific model components, and that is their weakness. A 2024 study by researchers at ETH Zurich and Google DeepMind found that simple methods, such as noisy upscaling, could remove Glaze-style protections enough for mimicry to succeed. Later work, including LightShed in 2025, trained detectors to spot and strip poisoning perturbations. The Glaze team has disputed some findings and updated its tools. The key misconception is that protection is permanent. An image published today cannot be updated later, while attackers and models keep changing. The tools can also leave visible artifacts, especially at high intensity.
Implementacja w świecie rzeczywistym
Malarka cyfrowa przepuszcza każde nowe dzieło przez program Glaze przed jego opublikowaniem, dzięki czemu osoba dostrajająca model LoRA na jej portfolio uzyskuje rezultaty, które nie pasują do jej pociągnięć pędzla i palety barw.
Ilustrator nakłada Nightshade na publikowane publicznie obrazy smoków, dążąc do tego, aby pobrane kopie nauczyły model cech wizualnych niepowiązanego z nimi pojęcia.
Artysta porównuje ustawienia intensywności Glaze i wybiera niższy poziom dla delikatnej pracy akwarelowej, ponieważ wyższe ustawienia pozostawiły widoczne artefakty na obszarach o jednolitym kolorze.
Mała społeczność artystyczna omawia badania pokazujące, że skalowanie w górę może usunąć zabezpieczenia, i decyduje się połączyć Glaze z rejestrami rezygnacji oraz ustawieniami platform zamiast polegać wyłącznie na nim.
Przyszłość ochrony artystów za pomocą Glaze i Nightshade
Wyścig pomiędzy narzędziami perturbacji a metodami usuwania przypomina inne wyścigi zbrojeń kontradyktoryjnych, a dotychczasowe badania sugerują, że obrońcy są w strukturalnej niekorzystnej sytuacji, ponieważ opublikowane obrazy są niezmienne, podczas gdy ataki stale się ulepszają. Glaze i Nightshade są nadal cenione przez wielu artystów jako sposób na zwiększenie kosztów nadużyć i wyrażenie braku zgody. Długoterminowa ochrona prawdopodobnie będzie wynikiem połączenia zasad prawnych dotyczących danych treningowych, umów licencyjnych, standardów pochodzenia oraz polityki platform. Artyści powinni korzystać z tych narzędzi z realistycznymi oczekiwaniami i stosować inne środki ostrożności.
Wdrażanie tego w praktykę
Dlaczego to ma znaczenie
- Ryzyko i bezpieczeństwo. Zarówno katastrofalne, jak i codzienne szkody spowodowane sztuczną inteligencją zależą od tego, kto rozumie ryzyko i kto może podjąć działania.
- Jaśniejsze decyzje. Umiejętność korzystania z usług publicznych i zawodowych wpływa na to, czy silna polityka bezpieczeństwa jest politycznie możliwa.
- Przebijanie się przez szum. Jasne wyjaśnienia ograniczają wpływ szumu, PR laboratoryjnego i niejasnego teatru etycznego.
Uważaj na
- Traktowanie ryzyka egzystencjalnego jako science-fiction, choć łączy w sobie możliwości.
- Mylenie bezpieczeństwa produktów powierzchniowych z wyrównaniem przy dużej autonomii.
- Pozostawienie odbiorcom nieanglojęzycznym i nieeksperckim jedynie źródeł o niskiej jakości.
Kolejne kroki
- Oddziel ryzyko szkód, niewłaściwego użycia i utraty kontroli/niewspółosiowości produktu.
- Zapytaj, jakie dowody zmieniłyby Twój pogląd na temat terminów i dotkliwości.
- Przedkładaj źródła pierwotne i konkretne oceny nad twierdzenia marketingowe.
- Zidentyfikuj jedną ścieżkę działania: karierę, politykę, finansowanie lub umiejętności – nie tylko świadomość.
Odkrywaj dalej
Darmowy newsletter
Otrzymuj codzienne podsumowanie AI
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Rozwiąż quiz o ochronie artystów za pomocą Glaze i Nightshade
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Często zadawane pytania
Czym jest ochrona artystów za pomocą Glaze i Nightshade?
Glaze i Nightshade to darmowe narzędzia stworzone przez Uniwersytet Chicagowski, które wprowadzają małe, starannie zoptymalizowane zmiany do dzieł sztuki, powodując, że modele AI błędnie je odczytują: Glaze próbuje powstrzymać modele przed kopiowaniem stylu artysty, a Nightshade stara się zatruć dane treningowe, aby modele nauczyły się błędnych powiązań. Dają one artystom pewną przewagę w walce z nieautoryzowanym treningiem, jednak badacze wykazali, że można je osłabić lub usunąć, dlatego stanowią czynnik odstraszający, a nie gwarancję.
Przeciwko jakiemu zagrożeniu głównie zaprojektowano program Glaze?
Glaze jest wymierzone w osoby, które dostrajają modele na obrazach artysty, aby odtworzyć jego styl.
Czym Nightshade różni się od Glaze pod względem swojego celu?
Glaze ma charakter defensywny i chroni styl jednego artysty. Nightshade ma charakter ofensywny i ma na celu zafałszowanie tego, czego model uczy się ze zeskrapianych obrazów.
Jaki jest cel optymalizacji Glaze, gdy wprowadza ono zaburzenia do dzieła sztuki?
Glaze przesuwa reprezentację cech obrazu w stronę stylu przynęty, aby proces dostrajania uczył się właśnie tego stylu.
Co sprawia, że zakłócenia nie są oczywiste dla ludzkich obserwatorów?
Optymalizacja ogranicza to, jak bardzo obraz różni się wizualnie dla ludzi, jednocześnie maksymalizując różnice w odbiorze przez model.
Do jakich wniosków doszło badanie przeprowadzone w 2024 roku przez naukowców z ETH Zurich i Google DeepMind?
Badanie wykazało, że niedrogie wstępne przetwarzanie mogło zniweczyć ochronę, co umożliwiło skuteczne naśladowanie stylu.
Ucz się dalej
Powiązane przewodniki
Wybrano więcej przewodników na ten temat