GUIDA della Società

Convenzione quadro del Consiglio d’Europa sull’IA

La Convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto è il primo trattato internazionale giuridicamente vincolante sull’intelligenza artificiale.

Ascolta questa guidaNarrato dall'IA · ~3 min

In questa pagina4 minuti di lettura
  1. Panoramica
  2. Immersione profonda
  3. Implementazione nel mondo reale
  4. Il futuro della convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale
  5. Metterlo in pratica
  6. Continua a esplorare
  7. Domande frequenti

Panoramica

I paesi che lo ratificano devono assicurarsi che i sistemi di intelligenza artificiale utilizzati durante l’intero ciclo di vita rispettino i diritti umani, i processi democratici e lo Stato di diritto. È importante perché stabilisce doveri giuridici condivisi che vanno oltre l’Europa e i paesi al di fuori dell’Europa possono aderirvi.

Immersione profonda

La Convenzione è stata negoziata dal Comitato sull'Intelligenza Artificiale (CAI) del Consiglio d'Europa. Hanno partecipato i 46 Stati membri del Consiglio d'Europa, l'Unione Europea e paesi osservatori come Stati Uniti, Canada, Giappone, Israele e Australia. Il Comitato dei Ministri ha adottato il testo il 17 maggio 2024 ed è stato aperto alla firma a Vilnius il 5 settembre 2024. Tra i primi firmatari figurano Regno Unito, Stati Uniti, UE, Norvegia, Israele, Islanda, Georgia, Moldavia, Andorra e San Marino, e altri Stati hanno firmato successivamente. Entra in vigore dopo cinque ratifiche, di cui almeno tre devono essere Stati membri del Consiglio d'Europa. Il trattato stabilisce principi generali piuttosto che regole tecniche dettagliate. I principi sono dignità umana e autonomia individuale, uguaglianza e non discriminazione, privacy e protezione dei dati personali, trasparenza e controllo, responsabilità e responsabilità, affidabilità e innovazione sicura. Le parti devono anche fornire rimedi. Ciò significa documentare le informazioni rilevanti sui sistemi di intelligenza artificiale, consentire alle persone di contestare le decisioni, offrire garanzie procedurali e dire alle persone quando hanno a che fare con un sistema di intelligenza artificiale. L'ambito è un compromesso. Il trattato si applica pienamente alle autorità pubbliche e agli attori privati ​​che agiscono per loro conto. Per il resto del settore privato, ciascuna parte può applicare direttamente gli obblighi del trattato o adottare altre misure appropriate. Sono escluse le attività a tutela della sicurezza nazionale, le questioni di difesa nazionale e di ricerca e sviluppo su sistemi non ancora messi a disposizione. Un malinteso comune è che il trattato sia una copia della legge UE sull’IA. L’AI Act è un regolamento dell’UE che classifica i sistemi in livelli di rischio e stabilisce obblighi in materia di sicurezza dei prodotti. La Convenzione è uno strumento internazionale in materia di diritti umani. L’UE lo ha firmato e per adempiere ai propri obblighi si affida principalmente alla legge sull’IA e alla normativa UE esistente.

Implementazione nel mondo reale

Un’agenzia governativa che utilizza uno strumento di intelligenza artificiale per segnalare le frodi previdenziali avrebbe bisogno di valutazioni del rischio e dell’impatto, di documentazione e di un modo per consentire alle persone interessate di contestare le decisioni che influiscono in modo significativo sui loro diritti.

A un cittadino che parla con un chatbot di servizio pubblico dovrebbe essere detto che sta interagendo con un sistema di intelligenza artificiale anziché con un essere umano.

Un paese ratificante può decidere che le aziende private che utilizzano l’intelligenza artificiale nelle assunzioni debbano soddisfare direttamente i principi del trattato, oppure può adottare altre misure appropriate per raggiungere gli stessi obiettivi.

Un’autorità elettorale preoccupata per la disinformazione guidata dall’intelligenza artificiale può sottolineare il dovere del trattato di proteggere l’integrità dei processi democratici quando definisce le misure di salvaguardia.

Il futuro della convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale

L’importanza della Convenzione dipenderà dalle ratifiche e dal rigore con cui i paesi tratteranno il settore privato. I paesi che scelgono “altre misure appropriate” potrebbero attuarla in modo molto diverso dai paesi che la applicano direttamente alle aziende. La Conferenza delle parti e strumenti come HUDERIA potrebbero lentamente creare aspettative condivise, proprio come hanno fatto i precedenti trattati del Consiglio d’Europa per la protezione dei dati. Scopri quali paesi extraeuropei lo ratificano, come lo utilizzano i tribunali nazionali e come interagisce con la legge UE sull’IA e le leggi nazionali sull’IA. La sua portata è ampia, ma l’applicazione si basa sui sistemi nazionali piuttosto che su un regolatore internazionale.

Metterlo in pratica

Perché è importante

  • Rischio e sicurezza. I danni catastrofici e quotidiani dell’IA dipendono entrambi da chi comprende i rischi e da chi può agire.
  • Decisioni più chiare. L’alfabetizzazione pubblica e professionale determina la possibilità politica di una forte politica di sicurezza.
  • Tagliare il clamore. Spiegazioni chiare riducono la cattura da parte di montature pubblicitarie, PR di laboratorio e vaghi teatrini etici.

Attenzione

  • Trattare il rischio esistenziale come fantascienza mentre le capacità si aggravano.
  • Confondere la sicurezza del prodotto superficiale con l'allineamento in condizioni di elevata autonomia.
  • Lasciando il pubblico non inglese e non esperto solo con fonti di bassa qualità.

Prossimi passi

  1. Separare i rischi di danni al prodotto, uso improprio e perdita di controllo/disallineamento.
  2. Chiedi quali prove cambierebbero la tua opinione sulle tempistiche e sulla gravità.
  3. Preferire fonti primarie e valutazioni concrete alle affermazioni di marketing.
  4. Identifica un percorso d’azione: carriera, politica, finanziamenti o competenze, non solo consapevolezza.

Continua a esplorare

Newsletter gratuita

Ricevi il briefing quotidiano sull'IA

Tre storie verificate sull'IA ogni mattina nei giorni feriali, scritte in un inglese semplice. Gratuito per sempre, senza pubblicità.

Un'email ogni giorno feriale. Disiscriviti con un clic. Non vendiamo né condividiamo mai il tuo indirizzo.

Mettiti alla prova

Rispondi al quiz della Convenzione quadro del Consiglio d'Europa sull'intelligenza artificiale

Feedback immediato su ogni risposta e un certificato condivisibile con un ID verificabile una volta superato un corso.

Inizia il quiz

Sostieni l'istruzione gratuita sull'IA. AI Understanding è un'organizzazione non profit 501(c)(3) — nessun annuncio, nessun paywall, mai. Fai una donazione

Domande frequenti

Cos’è la Convenzione quadro del Consiglio d’Europa sull’IA?

La Convenzione quadro del Consiglio d’Europa sull’intelligenza artificiale e i diritti umani, la democrazia e lo Stato di diritto è il primo trattato internazionale giuridicamente vincolante sull’intelligenza artificiale. I paesi che lo ratificano devono assicurarsi che i sistemi di intelligenza artificiale utilizzati durante l’intero ciclo di vita rispettino i diritti umani, i processi democratici e lo Stato di diritto. È importante perché stabilisce doveri giuridici condivisi che vanno oltre l’Europa e i paesi al di fuori dell’Europa possono aderirvi.

Cosa rende storicamente degna di nota la Convenzione quadro del Consiglio d’Europa sull’IA?

La Convenzione è il primo trattato internazionale sull’IA che vincola gli Stati che la ratificano. I codici volontari e i regolamenti UE sono tipi diversi di strumenti.

Dove è stata aperta alla firma la Convenzione nel settembre 2024?

È stato aperto alla firma a Vilnius, in Lituania, il 5 settembre 2024, durante una conferenza ministeriale del Consiglio d’Europa.

Come tratta il trattato le società private che non agiscono per conto delle autorità pubbliche?

Si è trattato di un compromesso negoziato. Il settore pubblico è completamente coperto e ogni Stato sceglie come affrontare l’altro utilizzo dell’IA nel settore privato.

Quali attività sono escluse dal campo di applicazione del trattato?

Sono escluse le attività volte a tutelare la sicurezza nazionale e le questioni di difesa nazionale. Lo stesso vale per la ricerca e sviluppo sui sistemi che non sono ancora disponibili per l'uso.

Cos'è l'HUDERIA?

HUDERIA è stata adottata dal CAI per contribuire a valutare gli impatti dell’IA sui diritti umani, sulla democrazia e sullo stato di diritto. Si tratta di una guida, non di una parte vincolante del trattato.