VolgendeVolgende gids
Britse ICO-richtlijnen voor AI en gegevensbescherming
Samenleving
Gids voor de samenleving
Glaze en Nightshade zijn gratis tools van de Universiteit van Chicago die kleine, zorgvuldig geoptimaliseerde wijzigingen aan kunstwerken toevoegen, zodat AI-modellen het verkeerd interpreteren: Glaze probeert te voorkomen dat modellen de stijl van een kunstenaar kopiëren, en Nightshade probeert trainingsgegevens te vergiftigen zodat modellen verkeerde associaties leren.
Luister naar deze gidsAI-verteld · ~3 min
Ze bieden kunstenaars enige houvast tegen ongeoorloofde training, maar onderzoekers hebben aangetoond dat ze verzwakt of verwijderd kunnen worden, waardoor ze eerder een afschrikmiddel dan een garantie zijn.
Beide tools zijn afkomstig van het SAND Lab van de Universiteit van Chicago, onder leiding van Ben Zhao. Glaze werd uitgebracht in 2023 en Nightshade in januari 2024, en beide zijn gratis. Glaze heeft ook een webversie, WebGlaze, voor artiesten zonder krachtige computers. Glaze richt zich op stijlnabootsing. Iemand kan een beeldmodel verfijnen op enkele tientallen stukken van één kunstenaar, en vervolgens onbeperkt werk in die stijl produceren. Glaze voegt een verstoring toe, een patroon van kleine pixelveranderingen, waardoor het kunstwerk voor de beeldcodering van een model lijkt alsof het in een andere stijl is. Een model dat is afgestemd op geglazuurde beelden leert de verkeerde stijl, terwijl een mens weinig verandering ziet. Nachtschade is eerder aanvallend dan defensief. Het richt zich op training op geschraapte gegevens. Een gearceerde afbeelding van een hond wordt gewijzigd zodat een model kenmerken van iets anders waarneemt, zoals een kat. Omdat elk concept in relatief weinig trainingsbeelden voorkomt vergeleken met de hele dataset, voerden de onderzoekers aan dat een bescheiden aantal vergiftigde monsters ervoor zou kunnen zorgen dat een model met vertekende resultaten op 'hond' zou reageren. Het doel is om de kosten van schrapen zonder toestemming te verhogen. Hoe goed werken ze? De verstoringen zijn afgestemd op specifieke modelcomponenten, en dat is hun zwakte. Uit een onderzoek uit 2024 door onderzoekers van ETH Zürich en Google DeepMind bleek dat eenvoudige methoden, zoals luidruchtige opschaling, Glaze-achtige beschermingen voldoende kunnen verwijderen om nabootsing te laten slagen. Later werk, waaronder LightShed in 2025, trainde detectoren om vergiftigingsverstoringen op te sporen en te verwijderen. Het Glaze-team heeft enkele bevindingen betwist en zijn tools bijgewerkt. De belangrijkste misvatting is dat bescherming permanent is. Een vandaag gepubliceerde afbeelding kan later niet meer worden bijgewerkt, terwijl aanvallers en modellen voortdurend veranderen. De gereedschappen kunnen ook zichtbare artefacten achterlaten, vooral bij hoge intensiteit.
Een digitale schilder voert elk nieuw stuk door Glaze voordat het wordt geplaatst, zodat iemand die een LoRA op haar portfolio verfijnt, resultaten krijgt die niet overeenkomen met haar penseelvoering en palet.
Een illustrator past Nightshade toe op afbeeldingen van draken die ze openbaar plaatst, met als doel geschraapte kopieën te maken die een model visuele kenmerken van een niet-gerelateerd concept leren.
Een kunstenaar vergelijkt de instellingen voor de glazuurintensiteit en kiest een lager niveau voor een zacht aquarelstuk, omdat hogere instellingen zichtbare artefacten achterlaten in egale kleurgebieden.
Een kleine kunstgemeenschap bespreekt onderzoek waaruit blijkt dat opschaling de bescherming kan wegnemen en besluit Glaze te combineren met opt-out-registers en platforminstellingen in plaats van er alleen op te vertrouwen.
De strijd tussen verstoringstools en verwijderingsmethoden lijkt op andere vijandige wapenwedlopen, en uit onderzoek tot nu toe blijkt dat verdedigers een structureel nadeel ondervinden omdat gepubliceerde afbeeldingen worden gerepareerd terwijl aanvallen blijven verbeteren. Glaze en Nightshade worden nog steeds door veel kunstenaars gewaardeerd als een manier om de kosten van misbruik te verhogen en niet-toestemming te signaleren. Bescherming op langere termijn zal waarschijnlijk voortkomen uit een combinatie van wettelijke regels over trainingsgegevens, licentieregelingen, herkomstnormen en platformbeleid. Kunstenaars moeten deze instrumenten gebruiken met realistische verwachtingen en andere maatregelen handhaven.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
Glaze en Nightshade zijn gratis tools van de Universiteit van Chicago die kleine, zorgvuldig geoptimaliseerde wijzigingen aan kunstwerken toevoegen, zodat AI-modellen het verkeerd interpreteren: Glaze probeert te voorkomen dat modellen de stijl van een kunstenaar kopiëren, en Nightshade probeert trainingsgegevens te vergiftigen zodat modellen verkeerde associaties leren. Ze bieden kunstenaars enige houvast tegen ongeoorloofde training, maar onderzoekers hebben aangetoond dat ze verzwakt of verwijderd kunnen worden, waardoor ze eerder een afschrikmiddel dan een garantie zijn.
Glaze richt zich op mensen die modellen afstemmen op de beelden van een kunstenaar om die stijl te reproduceren.
Glazuur is defensief en beschermt de stijl van één kunstenaar. Nightshade is aanstootgevend en heeft tot doel te corrumperen wat een model leert van geschraapte afbeeldingen.
Glaze verplaatst de representatie van de kenmerken van de afbeelding in de richting van een lokstijl, zodat de verfijning in plaats daarvan die stijl leert.
De optimalisatie beperkt hoe verschillend de afbeelding er voor mensen uitziet, terwijl wordt gemaximaliseerd hoe verschillend deze er voor het model uitziet.
Uit het onderzoek bleek dat goedkope voorbewerking de bescherming ongedaan kon maken, waardoor stijlnabootsing kon slagen.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
Britse ICO-richtlijnen voor AI en gegevensbescherming
Samenleving