Gids voor de samenleving

Californië SB 53 en Frontier AI-transparantie

California SB 53, de Transparency in Frontier Artificial Intelligence Act, ondertekend in september 2025, is van toepassing op ontwikkelaars van de meest rekenintensieve AI-modellen.

Luister naar deze gidsAI-verteld · ~3 min

Op deze pagina4 minuten lezen
  1. Overzicht
  2. Diepe duik
  3. Implementatie in de echte wereld
  4. De toekomst van Californië SB 53 en Frontier AI-transparantie
  5. Het in de praktijk brengen
  6. Blijf verkennen
  7. Veelgestelde vragen

Overzicht

Het verplicht hen veiligheidskaders en transparantierapporten te publiceren, kritieke veiligheidsincidenten aan de staat te melden en klokkenluiders te beschermen die zorgen uiten over catastrofale risico's. Het is van belang omdat het een van de eerste Amerikaanse wetten is die specifiek gericht is op ontwikkelaars van grensmodellen, en omdat het de op aansprakelijkheid gerichte benadering van de SB 1047, waar een veto over werd uitgesproken, heeft vervangen door de vereiste openbaarmaking.

Diepe duik

SB 53 definieert een frontiermodel als een basismodel dat is getraind met meer dan 10^26 integer- of drijvende-kommabewerkingen, inclusief berekeningen door latere verfijning of wijziging. Elke ontwikkelaar die een dergelijk model heeft getraind, is een frontier-ontwikkelaar en moet een transparantierapport publiceren wanneer hij een nieuw of substantieel gewijzigd frontier-model implementeert. Een grote frontier-ontwikkelaar, een met een jaaromzet van meer dan $500 miljoen, moet ook een frontier AI-framework publiceren en jaarlijks herzien, samenvattingen van catastrofale risicobeoordelingen opnemen in zijn transparantierapporten, en periodiek samenvattingen naar het Office of Emergency Services (OES) sturen van beoordelingen van catastrofale risico's als gevolg van intern gebruik van zijn modellen. Catastrofaal risico betekent een voorzienbaar en materieel risico dat een model bijdraagt ​​aan de dood of ernstig letsel van meer dan 50 mensen, of aan meer dan $1 miljard aan schade, bij één enkel incident. Het risico moet ontstaan ​​door hulp op expertniveau met chemische, biologische, radiologische of nucleaire wapens; een cyberaanval of ernstige misdaad gepleegd zonder zinvol menselijk toezicht; of het model dat de controle van de ontwikkelaar ontwijkt. Kritische veiligheidsincidenten zijn onder meer ongeoorloofde toegang tot modelgewichten, schade als gevolg van een gematerialiseerd catastrofaal risico en verlies van controle. Ontwikkelaars mogen geen wezenlijk valse of misleidende uitspraken doen over catastrofale risico's. De procureur-generaal handhaaft de wet met civielrechtelijke boetes van maximaal $ 1 miljoen per overtreding. SB 53 richt ook een consortium op om CalCompute, een openbaar computercluster, te ontwerpen. De wet volgde SB 1047, eveneens van senator Scott Wiener, die veiligheidstests vóór de inzet, de mogelijkheid tot uitschakeling en aansprakelijkheid voor kritieke schade zou vereisen. Gouverneur Newsom sprak er in september 2024 zijn veto over uit en riep een deskundigengroep bijeen wiens rapport van juni 2025 de voorkeur gaf aan transparantie met verificatie. SB 53 vereist geen licentie, voorafgaande goedkeuring of een kill-schakelaar.

Implementatie in de echte wereld

Een grote frontier-ontwikkelaar met een jaaromzet van meer dan $500 miljoen moet een frontier AI-framework op zijn website publiceren. Het raamwerk legt uit hoe het bedrijf catastrofale risico’s beoordeelt en beperkt, inclusief de vraag of het gebruik maakt van externe beoordelaars.

Wanneer een ontwikkelaar een nieuw grensmodel uitbrengt, moet hij een transparantierapport publiceren waarin het beoogde gebruik en de beperkingen van het model worden beschreven. Grote ontwikkelaars moeten in dat rapport ook hun catastrofale risicobeoordelingen samenvatten.

Een ontwikkelaar die ontdekt dat zijn nog niet vrijgegeven modelgewichten zijn gestolen, moet het kritieke veiligheidsincident binnen 15 dagen melden aan de California's Office of Emergency Services. Als het incident een onmiddellijk risico op overlijden of ernstig letsel met zich meebrengt, bedraagt ​​de deadline 24 uur.

Een werknemer die meent dat zijn bedrijf catastrofale risico's verkeerd voorstelt, kan dit melden aan de procureur-generaal of andere autoriteiten en wordt beschermd tegen vergelding. Grote ontwikkelaars moeten ook zorgen voor een anoniem intern rapportagekanaal.

De toekomst van Californië SB 53 en Frontier AI-transparantie

De meeste verplichtingen zijn op 1 januari 2026 ingegaan, waardoor er nog weinig handhavingsgeschiedenis is. Openstaande vragen zijn onder meer hoe OES met incidentmeldingen zal omgaan en hoe actief de procureur-generaal zal optreden tegen sancties. De wet draagt ​​overheidsfunctionarissen op om de definities en drempels in de loop van de tijd te herzien, omdat een vaste rekendrempel verouderd kan raken naarmate training efficiënter wordt. De grootste onzekerheid betreft het federale beleid: pogingen in het Congres en vanuit het Witte Huis om de AI-wetten van de staat te ondermijnen of aan te vechten, hebben de relatie onrustig gemaakt. Andere staten, waaronder New York, hebben soortgelijke wetgeving op het gebied van transparantie nagestreefd.

Het in de praktijk brengen

Waarom het ertoe doet

  • Risico en veiligheid. Catastrofale en alledaagse schade door AI hangt af van wie de risico's begrijpt en wie kan handelen.
  • Duidelijkere beslissingen. Publieke en professionele geletterdheid bepalen of een krachtig veiligheidsbeleid politiek mogelijk is.
  • Door de hype heen snijden. Duidelijke verklaringen verminderen de kans op hypes, laboratorium-PR en vaag ethisch theater.

Pas op voor

  • Existentieel risico behandelen als sciencefiction, terwijl capaciteiten zich vermenigvuldigen.
  • De veiligheid van oppervlakteproducten verwarren met uitlijning onder hoge autonomie.
  • Hierdoor blijven niet-Engelstalige en niet-deskundige doelgroepen alleen bronnen van lage kwaliteit over.

Volgende stappen

  1. Afzonderlijke risico's voor productschade, misbruik en verlies van controle/verkeerde uitlijning.
  2. Vraag welk bewijs uw kijk op tijdlijnen en ernst zou veranderen.
  3. Geef de voorkeur aan primaire bronnen en concrete evaluaties boven marketingclaims.
  4. Identificeer één actiepad: carrière, beleid, financiering of vaardigheden – niet alleen bewustwording.

Blijf verkennen

Gratis nieuwsbrief

Ontvang de dagelijkse AI-briefing

Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.

Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.

Test jezelf

Take the California SB 53 and Frontier AI Transparency quiz

Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.

Quiz starten

Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie

Veelgestelde vragen

Wat is California SB 53 en Frontier AI-transparantie?

California SB 53, de Transparency in Frontier Artificial Intelligence Act, ondertekend in september 2025, is van toepassing op ontwikkelaars van de meest rekenintensieve AI-modellen. Het verplicht hen veiligheidskaders en transparantierapporten te publiceren, kritieke veiligheidsincidenten aan de staat te melden en klokkenluiders te beschermen die zorgen uiten over catastrofale risico's. Het is van belang omdat het een van de eerste Amerikaanse wetten is die specifiek gericht is op ontwikkelaars van grensmodellen, en omdat het de op aansprakelijkheid gerichte benadering van de SB 1047, waar een veto over werd uitgesproken, heeft vervangen door de vereiste openbaarmaking.

Welke trainingsrekendrempel definieert een grensmodel onder SB 53?

SB 53 definieert een grensmodel als een model dat is getraind met meer dan 10 ^ 26 gehele- of drijvende-kommabewerkingen, waarbij rekenkracht wordt gebruikt bij latere verfijning of wijziging.

Welke jaarlijkse omzet maakt een frontier-ontwikkelaar tot een grote frontier-ontwikkelaar?

Ontwikkelaars met een jaarlijkse omzet van meer dan $500 miljoen gelden als grote grensontwikkelaars. Ze moeten een grensverleggend AI-kader publiceren en aan aanvullende rapportageverplichtingen voldoen.

Wat is de standaarddeadline voor het melden van een kritiek veiligheidsincident aan de staat?

Ontwikkelaars moeten kritieke veiligheidsincidenten doorgaans binnen 15 dagen melden aan het Office of Emergency Services. Bij dreigend gevaar geldt een kortere termijn.

Hoe snel moet een incident worden gemeld als er sprake is van een onmiddellijk risico op overlijden of ernstig letsel?

Als een incident een onmiddellijk risico op overlijden of ernstig letsel met zich meebrengt, moet de ontwikkelaar binnen 24 uur een bevoegde autoriteit hiervan op de hoogte stellen.

Welke van deze heeft SB 53 NIET nodig?

SB 53 vertrouwt op openbaarmaking, incidentrapportage en bescherming van klokkenluiders. Er is geen licentie, voorafgaande goedkeuring of een kill-schakelaar vereist. De uitschakelmogelijkheid maakte deel uit van de SB 1047 waar een veto over werd uitgesproken.