VolgendeVolgende gids
China’s TC260 AI Safety Governance Framework
Samenleving
Gids voor de samenleving
Een grensverleggend AI-veiligheidskader, zoals een verantwoord schaalbeleid, is een gepubliceerde toezegging van een AI-laboratorium om zijn modellen te testen op gevaarlijke capaciteiten.
Luister naar deze gidsAI-verteld · ~3 min
Als een model een bepaalde drempel overschrijdt, verbindt het laboratorium zich ertoe sterkere waarborgen toe te voegen, of het niet verder in te zetten of te trainen totdat deze waarborgen aanwezig zijn. Deze raamwerken zijn van belang omdat ze momenteel de belangrijkste manier zijn waarop de meest geavanceerde AI-modellen worden beheerd voor catastrofale risico's, hoewel de meeste ervan vrijwillig zijn en door de laboratoria zelf zijn geschreven.
Anthropic publiceerde in september 2023 het eerste Responsible Scaling Policy. Het introduceerde AI-veiligheidsniveaus (ASL's), losjes gemodelleerd naar bioveiligheidsniveaus, waarbij hogere niveaus sterkere beveiliging en implementatiewaarborgen vereisen. Een latere versie, in oktober 2024, herhaalde het beleid in termen van capaciteitsdrempels en vereiste waarborgen en beschreef de rol van een Responsible Scaling Officer. OpenAI heeft zijn Preparedness Framework in december 2023 als bèta uitgebracht. Het scoorde risico's in gevolgde categorieën, waaronder oorspronkelijk CBRN-bedreigingen, cyberbeveiliging, overreding en modelautonomie. Bij een herziening uit 2025 werd het gereorganiseerd rond hoge en kritische capaciteitsdrempels en werd de overtuigingskracht als gevolgde categorie geschrapt. Google DeepMind publiceerde in mei 2024 zijn Frontier Safety Framework en heeft het sindsdien herzien. Het definieert kritische capaciteitsniveaus (CCL's) die responsplannen in gang zetten. Op de AI Seoul Summit in mei 2024 ondertekenden 16 bedrijven de Frontier AI Safety Commitments. Ze kwamen overeen om veiligheidskaders te publiceren, drempels voor onaanvaardbare risico's vast te stellen, en geen model te ontwikkelen of in te zetten als de risico's ervan niet onder die drempels konden worden gehouden. Er zijn veel raamwerken gepubliceerd vóór de AI Action Summit in Parijs in februari 2025. Critici wijzen op verschillende zwakke punten. Labs schrijven hun eigen drempelwaarden en kunnen deze zelf herzien. Formuleringen als ‘zinvolle verheffing’ laten ruimte voor interpretatie. Externe verificatie is beperkt en commerciële concurrentie stimuleert laboratoria om de resultaten genereus te lezen. Een veel voorkomende misvatting is dat deze kaders wetten zijn. De meeste zijn vrijwillig, hoewel dit aan het veranderen is. De SB 53 in Californië vereist dat grote ontwikkelaars een dergelijk raamwerk publiceren, en de General-Purpose AI Code of Practice van de EU, een vrijwillige route om naleving van de AI Act aan te tonen, vraagt ondertekenaars om er een te adopteren.
Voordat het wordt vrijgegeven, test een laboratorium of een nieuw model een betekenisvolle ondersteuning biedt aan iemand die probeert biologische wapens te verwerven. Als de drempel wordt overschreden, voegt het lab strengere misbruikfilters en beveiliging toe vóór de implementatie.
In mei 2025 zei Anthropic dat het uit voorzorg de ASL-3-implementatie en beveiligingsbescherming voor Claude Opus 4 had geactiveerd, omdat het niet kon uitsluiten dat het model de relevante capaciteitsdrempel had bereikt.
Het Preparedness Framework van OpenAI geeft een veiligheidsadviesgroep de opdracht om capaciteitsrapporten te beoordelen en het leiderschap te adviseren over de vraag of de veiligheidsmaatregelen voldoende zijn vóór een release.
Een laboratorium dat autonome replicatie of AI-onderzoeksversnelling volgt, voert agentevaluaties uit. Deze testen of het model lange, uit meerdere stappen bestaande taken kan uitvoeren zonder menselijke hulp.
Kaders verschuiven van vrijwillige toezeggingen naar wettelijke verwachtingen. Californië vereist nu dat grote grensontwikkelaars deze publiceren, de EU-praktijkcode vraagt de ondertekenaars om ze over te nemen, en mogelijk volgen er nog meer jurisdicties. Openstaande vragen zijn onder meer wie de naleving controleert, hoe drempels in laboratoria worden gestandaardiseerd en of evaluaties gelijke tred kunnen houden met snel verbeterende agentische systemen. Onafhankelijke testinstanties, waaronder AI-instituten van de overheid, kunnen een grotere rol op zich nemen bij het controleren van laboratoriumclaims. De centrale spanning zal waarschijnlijk blijven bestaan: laboratoria ontwerpen de regels waaraan ze worden beoordeeld, wat transparantie en toezicht van buitenaf belangrijk maakt.
Gratis nieuwsbrief
Drie verifieerde AI-verhalen elke weekdagmorgen, geschreven in eenvoudig Engels. Gratis voor altijd, geen advertenties.
Eén e-mail elke weekdag. Afmelden met één klik. We verkopen of delen je adres nooit.
Test jezelf
Directe feedback op elke antwoord, en een deelbare certificaat met een verifieerbare ID zodra je een cursus hebt afgerond.
Ondersteun gratis AI-onderwijs. AI Understanding is een 501(c)(3) non-profit — geen advertenties, geen betaalmuur, nooit. Doe een donatie
Een grensverleggend AI-veiligheidskader, zoals een verantwoord schaalbeleid, is een gepubliceerde toezegging van een AI-laboratorium om zijn modellen te testen op gevaarlijke capaciteiten. Als een model een bepaalde drempel overschrijdt, verbindt het laboratorium zich ertoe sterkere waarborgen toe te voegen, of het niet verder in te zetten of te trainen totdat deze waarborgen aanwezig zijn. Deze raamwerken zijn van belang omdat ze momenteel de belangrijkste manier zijn waarop de meest geavanceerde AI-modellen worden beheerd voor catastrofale risico's, hoewel de meeste ervan vrijwillig zijn en door de laboratoria zelf zijn geschreven.
Deze kaders zijn gebaseerd op als-dan-verbintenissen die capaciteitsdrempels koppelen aan de vereiste waarborgen.
Het Responsible Scaling Policy van Anthropic van september 2023 introduceerde ASL's, losjes gemodelleerd op bioveiligheidsniveaus.
DeepMind maakt gebruik van Critical Capability Levels (CCL's), die responsplannen activeren wanneer deze worden bereikt.
De Frontier AI Safety Commitments waren vrijwillige beloften om kaders te publiceren en niet door te gaan als de risico’s niet onder de drempelwaarden konden worden gehouden.
De herziening reorganiseerde het raamwerk rond hoge en kritische drempels en verwijderde overtuiging als een bijgehouden categorie.
Blijf leren
Er zijn meer handleidingen voor dit onderwerp geselecteerd
VolgendeVolgende gids
China’s TC260 AI Safety Governance Framework
Samenleving