PRŮVODCE společností

Kalifornie SB 53 a Frontier AI Transparency

Kalifornie SB 53, zákon Transparency in Frontier Artificial Intelligence Act podepsaný v září 2025, se vztahuje na vývojáře výpočetně nejnáročnějších modelů umělé inteligence.

Poslechněte si tento návodAI-vyprávěný · ~3 min

Na této stránce4 min čtení
  1. Přehled
  2. Hluboký ponor
  3. Real-World Implementace
  4. Budoucnost Kalifornie SB 53 a Frontier AI Transparency
  5. Uvedení do praxe
  6. Pokračujte v objevování
  7. Často kladené otázky

Přehled

Vyžaduje, aby zveřejňovali bezpečnostní rámce a zprávy o transparentnosti, hlásili státu kritické bezpečnostní incidenty a chránili informátory, kteří vyvolávají obavy z katastrofických rizik. Je to důležité, protože jde o jeden z prvních zákonů USA zaměřených konkrétně na vývojáře hraničních modelů a nahradil přístup zaměřený na odpovědnost vetovaného SB 1047 požadovaným zveřejněním.

Hluboký ponor

SB 53 definuje hraniční model jako základní model trénovaný s více než 10^26 celočíselnými operacemi nebo operacemi s plovoucí desetinnou čárkou, včetně výpočtů z pozdějšího jemného doladění nebo modifikace. Každý vývojář, který vycvičil takový model, je hraniční vývojář a musí zveřejnit zprávu o transparentnosti, když nasadí nový nebo podstatně upravený hraniční model. Velký hraniční vývojář, který má více než 500 milionů dolarů v ročních příjmech, musí také zveřejňovat a každoročně revidovat rámec hraniční umělé inteligence, zahrnout souhrny hodnocení katastrofických rizik do svých zpráv o transparentnosti a pravidelně zasílat Office of Emergency Services (OES) souhrny hodnocení katastrofických rizik vyplývajících z interního použití svých modelů. Katastrofické riziko znamená předvídatelné a materiální riziko, že model přispěje k úmrtí nebo vážnému zranění více než 50 lidí nebo ke škodě přesahující 1 miliardu USD při jediném incidentu. Riziko musí vzniknout prostřednictvím odborné pomoci s chemickými, biologickými, radiologickými nebo jadernými zbraněmi; kybernetický útok nebo závažný trestný čin spáchaný bez smysluplného lidského dohledu; nebo model, který se vyhýbá kontrole vývojáře. Mezi kritické bezpečnostní incidenty patří neoprávněný přístup k modelovým závažím, poškození v důsledku materializovaného katastrofického rizika a ztráta kontroly. Vývojáři nesmějí činit podstatně nepravdivá nebo zavádějící prohlášení o katastrofickém riziku. Generální prokurátor vymáhá zákon s občanskoprávními sankcemi až do výše 1 milionu dolarů za porušení. SB 53 také vytváří konsorcium pro návrh CalCompute, veřejného výpočetního clusteru. Zákon následoval SB 1047, rovněž od senátora Scotta Wienera, který by vyžadoval bezpečnostní testování před nasazením, schopnost odstavení a odpovědnost za kritická poškození. Guvernér Newsom to v září 2024 vetoval a svolal expertní skupinu, jejíž zpráva z června 2025 upřednostňovala transparentnost s ověřováním. SB 53 nevyžaduje licenci, předběžné schválení ani přepínač zabíjení.

Real-World Implementace

Velký hraniční vývojář s více než 500 miliony dolarů ročními příjmy musí na svých webových stránkách zveřejnit rámec hraniční umělé inteligence. Rámec vysvětluje, jak společnost posuzuje a zmírňuje katastrofická rizika, včetně toho, zda využívá hodnotitele třetích stran.

Když vývojář uvolní nový hraniční model, musí zveřejnit zprávu o transparentnosti zahrnující zamýšlené použití a omezení modelu. Velcí developeři musí v této zprávě také shrnout svá hodnocení katastrofických rizik.

Vývojář, který zjistí, že jeho nevydané modelové závaží byly odcizeny, musí do 15 dnů nahlásit kritický bezpečnostní incident kalifornskému úřadu pohotovostních služeb. Pokud událost představuje bezprostřední nebezpečí smrti nebo vážného zranění, lhůta je 24 hodin.

Zaměstnanec, který se domnívá, že jeho společnost nepravdivě uvádí katastrofické riziko, to může nahlásit generálnímu prokurátorovi nebo jiným úřadům a je chráněn před odvetou. Velcí vývojáři musí také poskytnout anonymní interní kanál pro podávání zpráv.

Budoucnost Kalifornie SB 53 a Frontier AI Transparency

Většina povinností vstoupila v platnost 1. ledna 2026, takže dosud existuje jen malá historie vymáhání. Mezi otevřené otázky patří, jak bude OES nakládat s hlášeními o incidentech a jak aktivně bude generální prokurátor ukládat sankce. Zákon nařizuje státním úředníkům, aby v průběhu času přezkoumali jeho definice a prahové hodnoty, protože pevný výpočetní práh může být zastaralý, protože školení bude efektivnější. Největší nejistotou je federální politika: snaha Kongresu a Bílého domu zabránit nebo zpochybnit státní zákony o umělé inteligenci zanechala vztah nevyrovnaný. Jiné státy, včetně New Yorku, uplatňují podobnou legislativu transparentnosti hraničního modelu.

Uvedení do praxe

Proč na tom záleží

  • Riziko a bezpečnost. Katastrofické a každodenní škody AI závisí na tom, kdo rozumí rizikům a kdo může jednat.
  • Jasnější rozhodnutí. Veřejná a odborná gramotnost určuje, zda je silná bezpečnostní politika politicky možná.
  • Prorážením humbuku. Jasná vysvětlení snižují zachytávání humbukem, PR v laboratoři a vágní etické divadlo.

Pozor na

  • Zacházení s existenčním rizikem jako sci-fi, zatímco schopnosti kombinují.
  • Matoucí bezpečnost povrchových produktů se zarovnáním pod vysokou autonomií.
  • Neanglické a neodborné publikum ponechává pouze nekvalitní zdroje.

Další kroky

  1. Oddělte rizika poškození produktu, nesprávného použití a ztráty kontroly/nesouladu.
  2. Zeptejte se, jaké důkazy by změnily váš pohled na časové osy a závažnost.
  3. Upřednostňujte primární zdroje a konkrétní hodnocení před marketingovými tvrzeními.
  4. Identifikujte jednu akční cestu: kariéru, politiku, financování nebo dovednosti – nejen povědomí.

Pokračujte v objevování

Newsletter zdarma

Získejte denní přehled o AI

Tři ověřené příběhy ze světa AI každý všední den ráno, psané srozumitelnou angličtinou. Navždy zdarma, bez reklam.

Jeden e-mail každý všední den. Odhlásit se můžete jedním kliknutím. Vaši adresu nikdy neprodáváme ani nesdílíme.

Otestujte se

Take the California SB 53 and Frontier AI Transparency quiz

Okamžitá zpětná vazba ke každé odpovědi a sdílitelný certifikát s ověřitelným ID po absolvování kurzu.

Spustit kvíz

Podpořte bezplatnou AI vzdělávání. AI Understanding je nezisková organizace 501(c)(3) — žádné reklamy, žádná platba za přístup, nikdy. Darujte

Často kladené otázky

Co je California SB 53 a Frontier AI Transparency?

Kalifornie SB 53, zákon Transparency in Frontier Artificial Intelligence Act podepsaný v září 2025, se vztahuje na vývojáře výpočetně nejnáročnějších modelů umělé inteligence. Vyžaduje, aby zveřejňovali bezpečnostní rámce a zprávy o transparentnosti, hlásili státu kritické bezpečnostní incidenty a chránili informátory, kteří vyvolávají obavy z katastrofických rizik. Je to důležité, protože jde o jeden z prvních zákonů USA zaměřených konkrétně na vývojáře hraničních modelů a nahradil přístup zaměřený na odpovědnost vetovaného SB 1047 požadovaným zveřejněním.

Jaký trénovací výpočetní práh definuje hraniční model podle SB 53?

SB 53 definuje hraniční model jako model trénovaný s více než 10^26 celočíselnými operacemi nebo operacemi s plovoucí desetinnou čárkou, přičemž se počítají výpočty použité při pozdějším jemném doladění nebo úpravě.

Jaké roční příjmy dělají z hraničního developera velkého hraničního developera?

Vývojáři s více než 500 miliony dolarů ročních příjmů se počítají jako velcí hraniční vývojáři. Musí zveřejnit rámec hraniční umělé inteligence a splnit další oznamovací povinnosti.

Jaká je standardní lhůta pro nahlášení kritického bezpečnostního incidentu státu?

Vývojáři obecně musí do 15 dnů nahlásit kritické bezpečnostní incidenty úřadu pro nouzové služby. Kratší lhůta platí při bezprostředním nebezpečí.

Jak rychle musí být incident nahlášen, pokud představuje bezprostřední riziko smrti nebo vážného zranění?

Pokud incident představuje bezprostřední riziko smrti nebo vážného zranění, musí vývojář informovat příslušný úřad do 24 hodin.

Který z nich SB 53 NEPOŽADUJE?

SB 53 spoléhá na odhalování, hlášení incidentů a ochranu oznamovatelů. Nevyžaduje licencování, předběžné schválení ani přepínač zabíjení. Schopnost vypnutí byla součástí vetovaného SB 1047.