DalšíDalší průvodce
Modro-zelené nasazení pro modely ML
Technický
Technický PRŮVODCE
Zabezpečení dodavatelského řetězce ML chrání kód, závislosti, datové sady a artefakty modelu před manipulací nebo nedůvěryhodnými zdroji během sestavení a nasazení.
Poslechněte si tento návodAI-vyprávěný · ~3 min
Podpisy a provenience mohou ověřit, odkud artefakt pochází a zda se změnil, ale neprokazují, že je model bezpečný, přesný nebo nezaujatý.
Systém ML závisí na více než modelových hmotnostech. Jeho dodavatelský řetězec zahrnuje zdrojový kód, nástroje pro sestavení, závislosti na balíčcích, základní obrazy, trénovací a vyhodnocovací data, serializované artefakty a konfiguraci nasazení. Útočník nebo náhodná chyba může zavést škodlivou závislost, změnit soubor modelu, uniknout přihlašovací údaje během sestavení nebo nasadit artefakt, který nebyl nikdy zkontrolován. Bezpečnostní postupy by měly chránit tyto vstupy a uchovávat sledovatelné důkazy o tom, jak byly vytvořeny artefakty uvolnění. Digitální podpisy spojují artefakt s identitou podpisu a kryptografickým výtahem. Ověřovatel může zkontrolovat, zda se artefakt shoduje s tím, co bylo podepsáno, a zda je podpis zřetězen s očekávanou identitou nebo zásadou. Prohlášení o původu mohou zaznamenávat vstupy sestavení a podrobnosti procesu. Nástroje Sigstore podporují podepisování artefaktů kontejnerů a ověřovací pracovní postupy. Tyto kontroly pomáhají odmítnout zmanipulované nebo neautorizované artefakty, ale platný podpis pouze říká, že konkrétní identita podepsala určité bajty; neznamená to, že obsah je bezpečný nebo správný. Serializace modelů si zaslouží zvláštní péči. Python lák může během deserializace spustit libovolný kód, takže načítání nedůvěryhodného láku je nebezpečné. Ověřte artefakty z důvěryhodných zdrojů a v případě potřeby zvažte formáty s užším chováním při provádění. I poté mohou mít analyzátory dat a běhová prostředí modelu zranitelná místa. Skenujte závislosti a kontejnery, omezte oprávnění, izolujte školení a vyvozování a vyhněte se ukládání tajemství v obrázcích nebo balíčcích modelů. Užitečný záznam vydání propojuje zdrojovou revizi, prostředí sestavení, závislosti, datovou linii, hodnotící zprávu a přehled artefaktů. Použijte řízení přístupu na podepisovací klíče a upřednostněte krátkodobé identity nebo spravované pracovní postupy podepisování, pokud jsou k dispozici. Ověřte podpisy v zásadách nasazení spíše než podepisování bez vynucení. Kontrola zabezpečení by měla zahrnovat reakci na incidenty a střídání klíčů. Kontroly dodavatelského řetězce zajišťují integritu a původ; K posouzení chování modelu a vhodnosti k použití je stále zapotřebí samostatné testování, soukromí a hodnocení odpovědné umělé inteligence.
Tým po řízeném sestavení podepíše bitovou kopii kontejneru a před nasazením ověří podpis proti očekávané identitě, čímž se sníží riziko přijetí změněné bitové kopie.
Soubor modelu je stažen z neznámého zdroje. Protože některé formáty serializace mohou spouštět kód během načítání, tým před jeho otevřením zkontroluje jeho původ a tam, kde je to možné, použije bezpečnější formát.
Potrubí zaznamenává revize zdroje, soubor zámku závislostí, verzi trénovacích dat a výtah modelu spolu s výsledky hodnocení, díky čemuž je možné přezkoumat řetězec sestavování artefaktu.
Podpis ověřuje integritu artefaktu a identitu podepisujícího, zatímco samostatné skenování zranitelnosti a hodnocení modelu řeší různé otázky bezpečnosti a kvality.
Týmy ML mohou posílit postupy vydávání podepisováním neměnných artefaktů, ověřováním podpisů při nasazení a zachováním původu sestavení pomocí hodnocení. Praktickým prvním krokem je zmapovat, které závislosti a zdroje dat mohou ovlivnit produkční model, a poté omezit, kdo může každý krok změnit. Pravidelně skenujte obrázky a závislosti a testujte obnovu, když se střídají přihlašovací údaje. Podpisy by neměly nahrazovat kontrolu chování, soukromí nebo bezpečnosti. Lepší řídicí panely dodavatelského řetězce mohou propojit identitu artefaktu s jeho zdrojovou revizí a zprávou o hodnocení, což pomáhá respondentům vysledovat, co skutečně běželo.
Newsletter zdarma
Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.
Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.
Otestujte se
Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.
Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte
Zabezpečení dodavatelského řetězce ML chrání kód, závislosti, datové sady a artefakty modelu před manipulací nebo nedůvěryhodnými zdroji během sestavení a nasazení. Podpisy a provenience mohou ověřit, odkud artefakt pochází a zda se změnil, ale neprokazují, že je model bezpečný, přesný nebo nezaujatý.
Ověření podpisu kontroluje integritu a důvěryhodnost podepisujících v rámci zásady; neurčuje kvalitu modelu.
Rekonstrukce okurky může vyvolat kód, takže nedůvěryhodné soubory okurky mohou vyvolat škodlivé chování.
Provenience zaznamenává, jak byl artefakt vyroben a které vstupy nebo pracovní postup byly zahrnuty.
Kontrola je důležitá pouze v případě, že proces vydání nebo nasazení kontroluje a odmítá nedůvěryhodné artefakty.
Autenticita a integrita nehodnotí chování modelu, přesnost nebo bezpečnost.
Učte se dál
Pro toto téma bylo vybráno více průvodců
DalšíDalší průvodce
Modro-zelené nasazení pro modely ML
Technický