Il prossimoProssima guida
Il quadro di governance della sicurezza dell'IA TC260 della Cina
Società
GUIDA della Società
Un framework di sicurezza per l'IA di frontiera, come una politica di scalabilità responsabile, è un impegno pubblicato da un laboratorio di IA a testare i propri modelli per individuare capacità pericolose.
Ascolta questa guidaNarrato dall'IA · ~3 min
Se un modello supera una determinata soglia, il laboratorio si impegna ad aggiungere salvaguardie più forti, o a non procedere con il deployment o con ulteriori addestramenti finché tali salvaguardie non saranno in posizione. Questi quadri normativi sono importanti perché attualmente rappresentano il modo principale in cui i modelli di IA più avanzati vengono regolamentati rispetto al rischio catastrofico, sebbene la maggior parte di essi sia volontaria e redatta dai laboratori stessi.
Anthropic published the first Responsible Scaling Policy in September 2023. It introduced AI Safety Levels (ASLs), loosely modeled on biosafety levels, where higher levels require stronger security and deployment safeguards. A later version, in October 2024, restated the policy in terms of capability thresholds and required safeguards and described the role of a Responsible Scaling Officer. OpenAI released its Preparedness Framework as a beta in December 2023. It scored risk in tracked categories, originally including CBRN threats, cybersecurity, persuasion and model autonomy. A 2025 revision reorganized it around High and Critical capability thresholds and dropped persuasion as a tracked category. Google DeepMind published its Frontier Safety Framework in May 2024 and has revised it since. It defines Critical Capability Levels (CCLs) that trigger response plans. At the AI Seoul Summit in May 2024, 16 companies signed the Frontier AI Safety Commitments. They agreed to publish safety frameworks, set thresholds for intolerable risk, and not develop or deploy a model if its risks could not be kept below those thresholds. Many frameworks were published before the Paris AI Action Summit in February 2025. Critics point to several weaknesses. Labs write their own thresholds and can revise them on their own. Wording such as "meaningful uplift" leaves room for interpretation. External verification is limited, and commercial competition gives labs an incentive to read results generously. A common misconception is that these frameworks are laws. Most are voluntary, although this is changing. California's SB 53 requires large frontier developers to publish such a framework, and the EU's General-Purpose AI Code of Practice, a voluntary route to showing compliance with the AI Act, asks signatories to adopt one.
Prima del rilascio, un laboratorio verifica se un nuovo modello offre un miglioramento significativo a chi sta cercando di acquisire armi biologiche. Se supera la soglia, il laboratorio aggiunge filtri anti-abuso e misure di sicurezza più rigide prima del deployment.
Nel maggio 2025, Anthropic ha dichiarato di aver attivato le protezioni di sicurezza e il deployment ASL-3 per Claude Opus 4 a titolo precauzionale, poiché non poteva escludere che il modello avesse raggiunto la soglia di capacità rilevante.
Il Preparedness Framework di OpenAI impone a un Safety Advisory Group di esaminare i rapporti sulle capacità e di consigliare la leadership sull'adeguatezza delle salvaguardie prima di un rilascio.
Un laboratorio che monitora la replicazione autonoma o l'accelerazione della ricerca sull'IA esegue valutazioni di tipo agentico. Queste verificano se il modello è in grado di completare attività lunghe e in più fasi senza l'aiuto umano.
I quadri normativi si stanno muovendo da impegni volontari verso aspettative normative. La California ora richiede ai grandi sviluppatori di frontiera di pubblicarli, il Codice di condotta dell'UE chiede ai firmatari di adottarli e altre giurisdizioni potrebbero seguire l'esempio. Le questioni aperte includono chi verifica la conformità, come le soglie vengono standardizzate tra i laboratori e se le valutazioni riescono a tenere il passo con sistemi agentici in rapido miglioramento. Organismi di test indipendenti, inclusi gli istituti governativi per l'IA, potrebbero assumere un ruolo maggiore nel verificare le dichiarazioni dei laboratori. La tensione centrale probabilmente rimarrà: i laboratori progettano le regole da cui vengono giudicati, il che rende importanti la trasparenza e il controllo esterno.
Newsletter gratuita
Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.
Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.
Mettiti alla prova
Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.
Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione
Un quadro normativo per la sicurezza dell'IA di frontiera, come una politica di scaling responsabile, è un impegno pubblicato da un laboratorio di IA a testare i propri modelli per individuare capacità pericolose. Se un modello supera una determinata soglia, il laboratorio si impegna ad aggiungere salvaguardie più forti, o a non procedere con il deployment o con ulteriori addestramenti finché tali salvaguardie non saranno in posizione. Questi quadri normativi sono importanti perché attualmente rappresentano il modo principale in cui i modelli di IA più avanzati vengono regolamentati rispetto al rischio catastrofico, sebbene la maggior parte di essi sia volontaria e redatta dai laboratori stessi.
Questi quadri normativi si basano su impegni di tipo se-allora che legano le soglie di capacità alle salvaguardie richieste.
La politica di scaling responsabile di Anthropic del settembre 2023 ha introdotto gli ASL, modellati vagamente sui livelli di biosicurezza.
DeepMind utilizza i Critical Capability Levels (CCL), che attivano piani di risposta quando vengono raggiunti.
I Frontier AI Safety Commitments erano impegni volontari a pubblicare quadri normativi e a non procedere se i rischi non potevano essere mantenuti al di sotto delle soglie.
La revisione ha riorganizzato il quadro normativo attorno alle soglie Alte e Critiche e ha rimosso la persuasione come categoria monitorata.
Continua a imparare
Altre guide selezionate per questo argomento
Il prossimoProssima guida
Il quadro di governance della sicurezza dell'IA TC260 della Cina
Società