Il prossimoProssima guida
Distribuzione blu-verde per modelli ML
Tecnico
GUIDA TECNICA
La sicurezza della catena di fornitura ML protegge codice, dipendenze, set di dati e artefatti del modello da manomissioni o fonti non attendibili durante la creazione e la distribuzione.
Ascolta questa guidaNarrato dall'IA · ~3 min
La firma e la provenienza possono verificare da dove proviene un artefatto e se è cambiato, ma non dimostrano che il modello sia sicuro, accurato o imparziale.
Un sistema ML dipende da qualcosa di più dei pesi del modello. La sua catena di fornitura comprende codice sorgente, strumenti di creazione, dipendenze dei pacchetti, immagini di base, dati di formazione e valutazione, artefatti serializzati e configurazione di distribuzione. Un utente malintenzionato o un errore accidentale possono introdurre una dipendenza dannosa, alterare un file di modello, perdere credenziali durante una compilazione o distribuire un artefatto che non è mai stato rivisto. Le pratiche di sicurezza dovrebbero proteggere questi input e preservare prove tracciabili su come sono stati prodotti gli artefatti del rilascio. Le firme digitali associano un artefatto a un'identità di firma e a un digest crittografico. Un verificatore può verificare che l'artefatto corrisponda a ciò che è stato firmato e che la firma sia concatenata a un'identità o una policy prevista. Le dichiarazioni di provenienza possono registrare input di build e dettagli di processo. Gli strumenti Sigstore supportano la firma degli artefatti del contenitore e i flussi di lavoro di verifica. Questi controlli aiutano a rifiutare artefatti manomessi o non autorizzati, ma una firma valida dice solo che una particolare identità ha firmato particolari byte; ciò non significa che i contenuti siano sicuri o corretti. La serializzazione dei modelli merita un'attenzione particolare. Il pickle Python può eseguire codice arbitrario durante la deserializzazione, quindi caricare un pickle non attendibile è pericoloso. Verifica gli artefatti provenienti da fonti attendibili e, se opportuno, considera i formati con un comportamento di esecuzione più ristretto. Anche in questo caso, i parser dei dati e i runtime dei modelli possono presentare vulnerabilità. Esegui la scansione di dipendenze e contenitori, limita le autorizzazioni, isola training e inferenza ed evita di archiviare segreti in immagini o bundle di modelli. Un utile record di rilascio collega la revisione del codice sorgente, l'ambiente di creazione, le dipendenze, la derivazione dei dati, il rapporto di valutazione e il digest degli artefatti. Applica il controllo degli accessi alle chiavi di firma e preferisci identità di breve durata o flussi di lavoro di firma gestiti, ove disponibili. Verifica le firme nella policy di distribuzione anziché firmare senza imposizione. La revisione della sicurezza dovrebbe includere la risposta agli incidenti e la rotazione delle chiavi. I controlli della catena di fornitura stabiliscono l’integrità e la provenienza; Sono ancora necessari test separati, valutazioni sulla privacy e sull’intelligenza artificiale responsabile per giudicare il comportamento del modello e l’idoneità all’uso.
Un team firma un'immagine del contenitore dopo una build controllata e verifica la firma rispetto a un'identità prevista prima della distribuzione, riducendo il rischio di accettare un'immagine alterata.
Un file modello viene scaricato da una fonte sconosciuta. Poiché alcuni formati di serializzazione possono eseguire codice durante il caricamento, il team ne controlla la provenienza e, ove possibile, utilizza un formato più sicuro prima di aprirlo.
Una pipeline registra la revisione dell'origine, il file di blocco delle dipendenze, la versione dei dati di training e il digest del modello insieme ai risultati della valutazione, rendendo rivedibile la catena di creazione di un artefatto.
Una firma verifica l'integrità dell'artefatto e l'identità del firmatario, mentre una scansione delle vulnerabilità e una valutazione del modello separate affrontano diverse questioni di sicurezza e qualità.
I team ML possono rafforzare le pratiche di rilascio firmando artefatti immutabili, verificando le firme nella distribuzione e mantenendo la provenienza della build con le valutazioni. Un primo passo pratico è quello di mappare quali dipendenze e origini dati possono influenzare un modello di produzione, quindi limitare chi può modificare ogni passaggio. Esegui regolarmente la scansione di immagini e dipendenze e verifica il ripristino quando le credenziali di firma vengono ruotate. Le firme non dovrebbero sostituire la revisione comportamentale, della privacy o della sicurezza. Migliori dashboard della catena di fornitura possono collegare l'identità dell'artefatto alla revisione della fonte e al rapporto di valutazione, aiutando gli operatori a rintracciare ciò che è stato effettivamente eseguito.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
La sicurezza della catena di fornitura ML protegge codice, dipendenze, set di dati e artefatti del modello da manomissioni o fonti non attendibili durante la creazione e la distribuzione. La firma e la provenienza possono verificare da dove proviene un artefatto e se è cambiato, ma non dimostrano che il modello sia sicuro, accurato o imparziale.
La verifica della firma verifica l'integrità e l'affidabilità del firmatario in base a una policy; non stabilisce la qualità del modello.
La ricostruzione di Pickle può richiamare codice, quindi i file Pickle non attendibili possono eseguire comportamenti dannosi.
La provenienza registra come è stato prodotto un artefatto e quali input o flusso di lavoro sono stati coinvolti.
Il controllo è importante solo se il processo di rilascio o distribuzione verifica e rifiuta gli artefatti non attendibili.
Autenticità e integrità non valutano il comportamento, l'accuratezza o la sicurezza del modello.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Distribuzione blu-verde per modelli ML
Tecnico