GUIDA della Società

Protezione per artisti di smalti e belladonna

Glaze e Nightshade sono strumenti gratuiti dell'Università di Chicago che aggiungono piccole modifiche attentamente ottimizzate all'opera d'arte in modo che i modelli di intelligenza artificiale la interpretino erroneamente: Glaze cerca di impedire ai modelli di copiare lo stile di un artista e Nightshade cerca di avvelenare i dati di addestramento in modo che i modelli imparino associazioni sbagliate.

Ascolta questa guidaNarrato dall'IA · ~3 min

In questa pagina4 minuti di lettura
  1. Panoramica
  2. Immersione profonda
  3. Implementazione nel mondo reale
  4. Il futuro della protezione degli artisti di Glaze e Nightshade
  5. Metterlo in pratica
  6. Continua a esplorare
  7. Domande frequenti

Panoramica

Forniscono agli artisti una certa influenza contro la formazione non autorizzata, ma i ricercatori hanno dimostrato che possono essere indeboliti o rimossi, quindi rappresentano un deterrente piuttosto che una garanzia.

Immersione profonda

Both tools come from the SAND Lab at the University of Chicago, led by Ben Zhao. Glaze was released in 2023 and Nightshade in January 2024, and both are free. Glaze also has a web version, WebGlaze, for artists without powerful computers. Glaze addresses style mimicry. Someone can fine-tune an image model on a few dozen pieces by one artist, then produce unlimited work in that style. Glaze adds a perturbation, a pattern of small pixel changes, that makes the artwork appear to a model's image encoder as though it were in a different style. A model fine-tuned on glazed images learns the wrong style, while a person sees little change. Nightshade is offensive rather than defensive. It targets training on scraped data. A shaded image of a dog is changed so a model perceives features of something else, such as a cat. Because each concept appears in relatively few training images compared with the whole dataset, the researchers argued that a modest number of poisoned samples could make a model respond to "dog" with distorted results. The aim is to raise the cost of scraping without permission. How well do they work? The perturbations are tuned against specific model components, and that is their weakness. A 2024 study by researchers at ETH Zurich and Google DeepMind found that simple methods, such as noisy upscaling, could remove Glaze-style protections enough for mimicry to succeed. Later work, including LightShed in 2025, trained detectors to spot and strip poisoning perturbations. The Glaze team has disputed some findings and updated its tools. The key misconception is that protection is permanent. An image published today cannot be updated later, while attackers and models keep changing. The tools can also leave visible artifacts, especially at high intensity.

Implementazione nel mondo reale

Un pittore digitale esegue ogni nuovo pezzo attraverso Glaze prima di pubblicarlo, quindi qualcuno che mette a punto un LoRA sul suo portfolio ottiene risultati che non corrispondono alla sua pennellata e alla sua tavolozza.

Un'illustratrice applica Nightshade alle immagini di draghi che pubblica pubblicamente, con l'obiettivo di fare in modo che le copie raschiate insegnino a un modello le caratteristiche visive di un concetto non correlato.

Un artista confronta le impostazioni dell'intensità dello smalto e sceglie un livello inferiore per un pezzo di acquerello morbido perché le impostazioni più elevate hanno lasciato artefatti visibili nelle aree di colore piatto.

Una piccola comunità artistica discute di una ricerca che dimostra che l'upscaling può eliminare le protezioni e decide di combinare Glaze con registri di opt-out e impostazioni della piattaforma piuttosto che fare affidamento solo su di esso.

Il futuro della protezione degli artisti di Glaze e Nightshade

La competizione tra strumenti di perturbazione e metodi di rimozione assomiglia ad altre corse agli armamenti avversari, e la ricerca finora suggerisce che i difensori si trovano in una situazione di svantaggio strutturale perché le immagini pubblicate vengono fissate mentre gli attacchi continuano a migliorare. Glaze e Nightshade sono ancora apprezzati da molti artisti come un modo per aumentare il costo dell'uso improprio e segnalare il mancato consenso. È più probabile che la protezione a lungo termine provenga da una combinazione di norme giuridiche sui dati di formazione, accordi di licenza, standard di provenienza e politiche della piattaforma. Gli artisti dovrebbero utilizzare questi strumenti con aspettative realistiche e mantenere altre misure in atto.

Metterlo in pratica

Perché è importante

  • Rischio e sicurezza. I danni catastrofici e quotidiani dell’IA dipendono entrambi da chi comprende i rischi e da chi può agire.
  • Decisioni più chiare. L’alfabetizzazione pubblica e professionale determina la possibilità politica di una forte politica di sicurezza.
  • Tagliare il clamore. Spiegazioni chiare riducono la cattura da parte di montature pubblicitarie, PR di laboratorio e vaghi teatrini etici.

Attenzione

  • Trattare il rischio esistenziale come fantascienza mentre le capacità si aggravano.
  • Confondere la sicurezza del prodotto superficiale con l'allineamento in condizioni di elevata autonomia.
  • Lasciando il pubblico non inglese e non esperto solo con fonti di bassa qualità.

Prossimi passi

  1. Separare i rischi di danni al prodotto, uso improprio e perdita di controllo/disallineamento.
  2. Chiedi quali prove cambierebbero la tua opinione sulle tempistiche e sulla gravità.
  3. Preferire fonti primarie e valutazioni concrete alle affermazioni di marketing.
  4. Identifica un percorso d’azione: carriera, politica, finanziamenti o competenze, non solo consapevolezza.

Continua a esplorare

Newsletter gratuita

Ricevi il briefing quotidiano sull'IA

Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.

Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.

Mettiti alla prova

Rispondi al quiz sulla protezione dell'artista Glaze and Nightshade

Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.

Inizia il quiz

Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione

Domande frequenti

Che cos'è la protezione artistica di Glaze e Nightshade?

Glaze e Nightshade sono strumenti gratuiti dell'Università di Chicago che aggiungono piccole modifiche attentamente ottimizzate all'opera d'arte in modo che i modelli di intelligenza artificiale la interpretino erroneamente: Glaze cerca di impedire ai modelli di copiare lo stile di un artista e Nightshade cerca di avvelenare i dati di addestramento in modo che i modelli imparino associazioni sbagliate. Forniscono agli artisti una certa influenza contro la formazione non autorizzata, ma i ricercatori hanno dimostrato che possono essere indeboliti o rimossi, quindi rappresentano un deterrente piuttosto che una garanzia.

Quale minaccia è principalmente progettata per contrastare Glaze?

Glaze si rivolge a persone che perfezionano i modelli sulle immagini di un artista per riprodurre quello stile.

In cosa differisce Nightshade da Glaze nel suo obiettivo?

Glaze è sulla difensiva, protegge lo stile di un artista. Nightshade è offensivo e mira a corrompere ciò che un modello apprende dalle immagini raschiate.

Qual è l'obiettivo di ottimizzazione di Glaze quando perturba un'opera d'arte?

Glaze sposta la rappresentazione delle caratteristiche dell'immagine verso uno stile esca, quindi la messa a punto apprende invece quello stile.

Cosa impedisce alle perturbazioni di essere evidenti agli spettatori umani?

L'ottimizzazione limita la differenza tra l'immagine e l'aspetto delle persone, massimizzando al tempo stesso la differenza rispetto al modello.

Cosa ha scoperto uno studio del 2024 condotto dall’ETH di Zurigo e dai ricercatori di Google DeepMind?

Lo studio ha dimostrato che una preelaborazione poco costosa potrebbe annullare le protezioni, consentendo il successo della mimica dello stile.