GUIDA della Società

Quadri di sicurezza dell’intelligenza artificiale di frontiera e politiche di dimensionamento responsabile

Un framework di sicurezza per l'IA di frontiera, come una politica di scalabilità responsabile, è un impegno pubblicato da un laboratorio di IA a testare i propri modelli per individuare capacità pericolose.

Ascolta questa guidaNarrato dall'IA · ~3 min

In questa pagina4 minuti di lettura
  1. Panoramica
  2. Immersione profonda
  3. Implementazione nel mondo reale
  4. I quadri normativi per la sicurezza dell'IA di frontiera e le politiche di scaling responsabile
  5. Metterlo in pratica
  6. Continua a esplorare
  7. Domande frequenti

Panoramica

Se un modello supera una determinata soglia, il laboratorio si impegna ad aggiungere salvaguardie più forti, o a non procedere con il deployment o con ulteriori addestramenti finché tali salvaguardie non saranno in posizione. Questi quadri normativi sono importanti perché attualmente rappresentano il modo principale in cui i modelli di IA più avanzati vengono regolamentati rispetto al rischio catastrofico, sebbene la maggior parte di essi sia volontaria e redatta dai laboratori stessi.

Immersione profonda

Anthropic published the first Responsible Scaling Policy in September 2023. It introduced AI Safety Levels (ASLs), loosely modeled on biosafety levels, where higher levels require stronger security and deployment safeguards. A later version, in October 2024, restated the policy in terms of capability thresholds and required safeguards and described the role of a Responsible Scaling Officer. OpenAI released its Preparedness Framework as a beta in December 2023. It scored risk in tracked categories, originally including CBRN threats, cybersecurity, persuasion and model autonomy. A 2025 revision reorganized it around High and Critical capability thresholds and dropped persuasion as a tracked category. Google DeepMind published its Frontier Safety Framework in May 2024 and has revised it since. It defines Critical Capability Levels (CCLs) that trigger response plans. At the AI Seoul Summit in May 2024, 16 companies signed the Frontier AI Safety Commitments. They agreed to publish safety frameworks, set thresholds for intolerable risk, and not develop or deploy a model if its risks could not be kept below those thresholds. Many frameworks were published before the Paris AI Action Summit in February 2025. Critics point to several weaknesses. Labs write their own thresholds and can revise them on their own. Wording such as "meaningful uplift" leaves room for interpretation. External verification is limited, and commercial competition gives labs an incentive to read results generously. A common misconception is that these frameworks are laws. Most are voluntary, although this is changing. California's SB 53 requires large frontier developers to publish such a framework, and the EU's General-Purpose AI Code of Practice, a voluntary route to showing compliance with the AI Act, asks signatories to adopt one.

Implementazione nel mondo reale

Prima del rilascio, un laboratorio verifica se un nuovo modello offre un miglioramento significativo a chi sta cercando di acquisire armi biologiche. Se supera la soglia, il laboratorio aggiunge filtri anti-abuso e misure di sicurezza più rigide prima del deployment.

Nel maggio 2025, Anthropic ha dichiarato di aver attivato le protezioni di sicurezza e il deployment ASL-3 per Claude Opus 4 a titolo precauzionale, poiché non poteva escludere che il modello avesse raggiunto la soglia di capacità rilevante.

Il Preparedness Framework di OpenAI impone a un Safety Advisory Group di esaminare i rapporti sulle capacità e di consigliare la leadership sull'adeguatezza delle salvaguardie prima di un rilascio.

Un laboratorio che monitora la replicazione autonoma o l'accelerazione della ricerca sull'IA esegue valutazioni di tipo agentico. Queste verificano se il modello è in grado di completare attività lunghe e in più fasi senza l'aiuto umano.

I quadri normativi per la sicurezza dell'IA di frontiera e le politiche di scaling responsabile

I quadri normativi si stanno muovendo da impegni volontari verso aspettative normative. La California ora richiede ai grandi sviluppatori di frontiera di pubblicarli, il Codice di condotta dell'UE chiede ai firmatari di adottarli e altre giurisdizioni potrebbero seguire l'esempio. Le questioni aperte includono chi verifica la conformità, come le soglie vengono standardizzate tra i laboratori e se le valutazioni riescono a tenere il passo con sistemi agentici in rapido miglioramento. Organismi di test indipendenti, inclusi gli istituti governativi per l'IA, potrebbero assumere un ruolo maggiore nel verificare le dichiarazioni dei laboratori. La tensione centrale probabilmente rimarrà: i laboratori progettano le regole da cui vengono giudicati, il che rende importanti la trasparenza e il controllo esterno.

Metterlo in pratica

Perché è importante

  • Rischio e sicurezza. I danni catastrofici e quotidiani dell’IA dipendono entrambi da chi comprende i rischi e da chi può agire.
  • Decisioni più chiare. L’alfabetizzazione pubblica e professionale determina la possibilità politica di una forte politica di sicurezza.
  • Tagliare il clamore. Spiegazioni chiare riducono la cattura da parte di montature pubblicitarie, PR di laboratorio e vaghi teatrini etici.

Attenzione

  • Trattare il rischio esistenziale come fantascienza mentre le capacità si aggravano.
  • Confondere la sicurezza del prodotto superficiale con l'allineamento in condizioni di elevata autonomia.
  • Lasciando il pubblico non inglese e non esperto solo con fonti di bassa qualità.

Prossimi passi

  1. Separare i rischi di danni al prodotto, uso improprio e perdita di controllo/disallineamento.
  2. Chiedi quali prove cambierebbero la tua opinione sulle tempistiche e sulla gravità.
  3. Preferire fonti primarie e valutazioni concrete alle affermazioni di marketing.
  4. Identifica un percorso d’azione: carriera, politica, finanziamenti o competenze, non solo consapevolezza.

Continua a esplorare

Newsletter gratuita

Ricevi il briefing quotidiano sull'IA

Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.

Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.

Mettiti alla prova

Fai il quiz sui quadri normativi per la sicurezza dell'IA di frontiera e sulle politiche di scaling responsabile

Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.

Inizia il quiz

Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione

Domande frequenti

Cosa sono i quadri normativi per la sicurezza dell'IA di frontiera e le politiche di scaling responsabile?

Un quadro normativo per la sicurezza dell'IA di frontiera, come una politica di scaling responsabile, è un impegno pubblicato da un laboratorio di IA a testare i propri modelli per individuare capacità pericolose. Se un modello supera una determinata soglia, il laboratorio si impegna ad aggiungere salvaguardie più forti, o a non procedere con il deployment o con ulteriori addestramenti finché tali salvaguardie non saranno in posizione. Questi quadri normativi sono importanti perché attualmente rappresentano il modo principale in cui i modelli di IA più avanzati vengono regolamentati rispetto al rischio catastrofico, sebbene la maggior parte di essi sia volontaria e redatta dai laboratori stessi.

Qual è la logica di base di una politica di scaling responsabile?

Questi quadri normativi si basano su impegni di tipo se-allora che legano le soglie di capacità alle salvaguardie richieste.

Quale azienda ha introdotto i livelli di sicurezza dell'IA (ASL)?

La politica di scaling responsabile di Anthropic del settembre 2023 ha introdotto gli ASL, modellati vagamente sui livelli di biosicurezza.

Come chiama Google DeepMind le soglie nel suo Frontier Safety Framework?

DeepMind utilizza i Critical Capability Levels (CCL), che attivano piani di risposta quando vengono raggiunti.

Cosa hanno concordato le aziende al vertice di Seoul sull'IA nel maggio 2024?

I Frontier AI Safety Commitments erano impegni volontari a pubblicare quadri normativi e a non procedere se i rischi non potevano essere mantenuti al di sotto delle soglie.

Quale categoria ha rimosso la revisione del Preparedness Framework di OpenAI del 2025 come categoria monitorata?

La revisione ha riorganizzato il quadro normativo attorno alle soglie Alte e Critiche e ha rimosso la persuasione come categoria monitorata.