NastępnyNastępny poradnik
Modele destylacji dyfuzyjnej i turbo
Techniczne
PRZEWODNIK techniczny
Zapamiętywanie w modelach dyfuzyjnych
Modele obrazu dyfuzyjnego zwykle generują nowe obrazy, ale badania wykazały, że czasami mogą one niemal dokładnie odtworzyć określone obrazy szkoleniowe, zwłaszcza obrazy, które pojawiały się wielokrotnie w danych uczących.
Posłuchaj tego przewodnikaOpowiadane przez sztuczną inteligencję · ~3 min
Na tej stronie3 minuty czytania
Przegląd
Nazywa się to zapamiętywaniem. Ma to znaczenie dla praw autorskich, ponieważ z modelki może pochodzić niemal kopia chronionego dzieła, oraz dla prywatności, ponieważ zdjęcie prawdziwej osoby lub skan medyczny może zostać zwrócone.
Głębokie nurkowanie
Model dyfuzyjny uczy się odwracać proces szumu: podczas treningu widzi obrazy z dodanym szumem oraz uczy się przewidywać i usuwać ten szum. Jeśli dobrze generalizuje, uczy się ogólnych statystyk obrazów i tworzy nowe kombinacje. Jednak sieci neuronowe potrafią także dopasowywać pojedyncze przykłady, a gdy jeden obraz pojawia się w danych setki lub tysiące razy, najtańszym sposobem na ograniczenie strat związanych z uczeniem się jest jego przechowywanie. Kluczowe dowody pochodzą z artykułu Carliniego i współpracowników z 2023 r. „Wyodrębnianie danych szkoleniowych z modeli dyfuzji”. Wygenerowali wiele obrazów z podpisami najczęściej powielanych obrazów szkoleniowych i oflagowanymi wynikami, które były bardzo zbliżone do obrazu szkoleniowego. Wyodrębnili ponad sto niemal identycznych kopii z Stable Diffusion, w tym zdjęcia możliwych do zidentyfikowania osób, i odkryli wyższy współczynnik zapamiętywania w Imagen Google. Osobno Somepalli i współpracownicy (2022–2023) wykazali, że Stable Diffusion generuje często kopiowane części lub układy obrazów szkoleniowych oraz łączy kopiowanie ze zduplikowanymi obrazami i bardzo szczegółowymi podpisami. Warto sprostować trzy błędne przekonania. Po pierwsze, zapamiętywanie nie jest normalnym zachowaniem modelu: wyodrębnione kopie są rzadkie w porównaniu do wszystkich pokoleń. Po drugie, rzadkie nie znaczy nieszkodliwe, ponieważ zdeterminowany użytkownik może wybrać obrazy, które z największym prawdopodobieństwem zostaną zapamiętane. Po trzecie, zapamiętywanie to nie tylko dokładne kopiowanie pikseli; modele mogą reprodukować postacie, logo, znaki wodne i charakterystyczne kompozycje. Dowody te pojawiały się w debatach prawnych, w tym w procesach sądowych, takich jak Getty Images przeciwko Stability AI i Andersen przeciwko Stability AI, chociaż sposób, w jaki sądy traktują szkolenia modelowe i wyniki, jest wciąż opracowywany i różni się w zależności od kraju. Jeśli chodzi o prywatność, obawy są jeszcze ostrzejsze w przypadku małych, dostrajających zbiorów danych, takich jak zdjęcia medyczne lub osobiste, gdzie każdy przykład ma większy wpływ.
Implementacja w świecie rzeczywistym
Badacze wyświetlają modelowi dokładny podpis mocno zduplikowanego obrazu treningowego i uzyskują wynik niemal identyczny w pikselach z oryginalnym zdjęciem.
Projektant pyta o styl słynnego obrazu i otrzymuje obraz, który odzwierciedla kompozycję i szczegóły konkretnego dzieła sztuki, a nie nowe dzieło.
Generator obrazów przeszkolony na obrazach internetowych czasami renderuje zniekształconą wersję znaku wodnego agencji giełdowej, pokazując wzorce wchłonięte z powtarzających się obrazów źródłowych.
Zespół szpitalny dostrajający model dyfuzyjny na małym zestawie skanów pacjentów sprawdza, czy model może generować niemal kopie prawdziwych skanów, zanim dozwolone będzie jakiekolwiek udostępnianie.
Przyszłość zapamiętywania w modelach dyfuzyjnych
Deduplikacja i sprawdzanie podobieństwa wyników stają się standardową praktyką odpowiedzialnych programistów, a badania trwają nad wykrywaniem zapamiętanych podpowiedzi w momencie wnioskowania. Zróżnicowana prywatność może okazać się praktyczna w przypadku wrażliwych dziedzin, takich jak obrazowanie medyczne, choć nadal istnieją kompromisy w zakresie jakości. Obraz prawny jest niejasny: sądy w różnych krajach rozważają, czy szkolenia i wyniki naruszają prawa autorskie, a wyniki mogą się różnić. Programiści prawdopodobnie staną w obliczu większej presji dokumentowania źródeł danych szkoleniowych oraz pokazania, w jaki sposób testują i ograniczają niedomykalność.
Wdrażanie tego w praktykę
Dlaczego to ma znaczenie
- Koszt i budżet. Decyzje dotyczące architektury wpływają na wydajność i koszty operacyjne przez lata.
- Jaśniejsze decyzje. Edukacja techniczna pomaga zespołom wybrać odpowiedni stos, a nie tylko najnowszy.
- Kontrola jakości. Lepsze wybory inżynieryjne zmniejszają liczbę incydentów związanych z niezawodnością w produkcji.
Uważaj na
- Optymalizacja jednego testu porównawczego może ukryć szersze słabości systemu.
- Koszty infrastruktury i utrzymania są często niedoszacowane.
- W miarę jak systemy stają się coraz bardziej złożone, luki w bezpieczeństwie i obserwowalności mogą się zwiększać.
Kolejne kroki
- Przed wdrożeniem zdefiniuj docelowe opóźnienia, jakość i koszty.
- Test porównawczy w realistycznych warunkach obciążenia i danych.
- Monitorowanie przyrządu pod kątem błędów, dryftu i wpływu użytkownika.
- Przed skalowaniem przygotuj ścieżki wycofywania zmian i reakcji na incydenty.
Odkrywaj dalej
Darmowy newsletter
Otrzymuj codzienne podsumowanie AI
Trzy zweryfikowane historie AI każdego poranka w dni robocze, napisane prostym angielskim. Bezpłatne na zawsze, bez reklam.
Jedno e‑mail każdego dnia roboczego. Wypisz się jednym kliknięciem. Nigdy nie sprzedajemy ani nie udostępniamy Twojego adresu.
Sprawdź się
Take the Memorization in Diffusion Models quiz
Natychmiastowa informacja zwrotna na każde pytanie oraz udostępnialny certyfikat z weryfikowalnym ID po zaliczeniu kursu.
Wspieraj darmową edukację AI. AI Understanding jest organizacją non-profit 501(c)(3) — bez reklam, bez płatnej ściany, zawsze. Przekaż darowiznę
Często zadawane pytania
Co to jest zapamiętywanie w modelach dyfuzyjnych?
Modele obrazu dyfuzyjnego zwykle generują nowe obrazy, ale badania wykazały, że czasami mogą one niemal dokładnie odtworzyć określone obrazy szkoleniowe, zwłaszcza obrazy, które pojawiały się wielokrotnie w danych uczących. Nazywa się to zapamiętywaniem. Ma to znaczenie dla praw autorskich, ponieważ z modelki może pochodzić niemal kopia chronionego dzieła, oraz dla prywatności, ponieważ zdjęcie prawdziwej osoby lub skan medyczny może zostać zwrócone.
Czym jest zapamiętywanie w modelu dyfuzyjnym?
Zapamiętywanie oznacza wyniki, które są niemal kopiami konkretnych obrazów szkoleniowych, a nie nowymi obrazami.
Dlaczego zduplikowane dane zwiększają zapamiętywanie?
Powtarzająca się ekspozycja na ten sam obraz sprawia, że dopasowanie dokładnie tego przykładu jest skutecznym sposobem na zmniejszenie strat.
Co wykazał artykuł Carliniego i współpracowników z 2023 r.?
Wyodrębnili ponad sto niemal kopii z Stable Diffusion, w tym zdjęcia możliwych do zidentyfikowania osób, i odkryli wyższe stawki w Imagen.
W jaki sposób atak ekstrakcji pozwolił zidentyfikować prawdopodobnie zapamiętane obrazy?
Zapamiętany obraz pojawia się konsekwentnie niezależnie od materiału siewnego, więc ciasne skupiska niemal identycznych wyników wskazują kandydatów.
Które stwierdzenie dotyczące zapamiętywania jest prawdziwe?
Wyodrębnione kopie są rzadkie w porównaniu do wszystkich wyników, ale osoby atakujące mogą skupić się na obrazach, które najprawdopodobniej zostaną zapamiętane.
Ucz się dalej
Powiązane przewodniki
Wybrano więcej przewodników na ten temat