Cosa è successo
Secondo il Japan Times, i politici cinesi stanno spostando la loro attenzione sull’intelligenza artificiale dai rischi immediati per i consumatori, come i deepfake e la sicurezza dei bambini, alle minacce alla sicurezza nazionale. Questo cambiamento è attribuito agli avvertimenti del capo dell’agenzia di spionaggio cinese riguardo al potenziale dell’intelligenza artificiale di mettere a repentaglio la sicurezza nazionale, nonché alle recenti dimostrazioni delle capacità di hacking dell’intelligenza artificiale, incluso un incidente segnalato in cui un piccolo team in California ha utilizzato l’intelligenza artificiale per creare un worm di attacco informatico mirato a WeChat.
Il Japan Times riporta che i politici cinesi hanno tradizionalmente dato priorità ai rischi immediati dell’IA, come i deepfake e la sicurezza dei bambini, rispetto alle minacce esistenziali a lungo termine. Tuttavia, l'articolo afferma che le "allarmanti capacità di hacking" dei migliori modelli di intelligenza artificiale stanno spingendo Pechino a vedere questi pericoli sotto una nuova luce.
Un fattore chiave di questo cambiamento è un avvertimento emesso la scorsa settimana dal capo dell’agenzia di spionaggio cinese, il quale ha affermato che la tecnologia dell’intelligenza artificiale potrebbe mettere a repentaglio la sicurezza nazionale. Questo avvertimento di alto livello indica che l’intelligenza artificiale viene ora trattata come un vettore di minaccia strategica piuttosto che semplicemente come una questione tecnologica o sociale.
Il rapporto cita anche un incidente specifico che ha coinvolto la mega-app WeChat, in cui un piccolo team di programmatori in California ha affermato di aver utilizzato l'intelligenza artificiale per creare un "worm" di attacco informatico. L’articolo rileva che questo strumento, se attivato, potrebbe facilmente compromettere milioni di account WeChat, illustrando la vulnerabilità pratica delle principali piattaforme agli attacchi informatici potenziati dall’intelligenza artificiale.
Dettagli della fonte: japantimes.co.jp ↗
Perché è importante
Questo sviluppo segnala un significativo perno strategico nella governance dell’intelligenza artificiale in Cina, allineando le sue priorità normative più da vicino alle preoccupazioni di sicurezza geopolitica e militare piuttosto che alla sola protezione dei consumatori nazionali. Considerando l’intelligenza artificiale come un rischio per la sicurezza nazionale, Pechino potrebbe accelerare l’attuazione di controlli, sorveglianza o misure difensive più rigorosi che potrebbero avere un impatto sull’ecosistema globale dell’intelligenza artificiale e sui flussi di dati transfrontalieri. Questo cambiamento evidenzia anche il crescente riconoscimento tra le grandi potenze del fatto che le capacità offensive dell’IA pongono minacce immediate e tangibili alle infrastrutture critiche e alla stabilità dello stato, spostando il discorso oltre i rischi esistenziali teorici verso vulnerabilità pratiche a breve termine.
Questo cambiamento segna un allontanamento dalla precedente attenzione della Cina ai rischi dell’intelligenza artificiale rivolti ai consumatori, come la disinformazione e la sicurezza dei bambini, verso un quadro di sicurezza più incentrato sullo stato. Ciò allinea più strettamente la governance dell’intelligenza artificiale cinese con le priorità di sicurezza nazionale viste in altre grandi potenze.
L’enfasi sulle “capacità di hacking” suggerisce che le future normative potrebbero prendere di mira le capacità offensive dei modelli di intelligenza artificiale, portando potenzialmente a restrizioni sulla formazione dei modelli, sull’accesso a dati sensibili o sull’implementazione dell’intelligenza artificiale in contesti di sicurezza informatica.
L’incidente che ha coinvolto il worm WeChat dimostra le implicazioni nel mondo reale degli attacchi informatici guidati dall’intelligenza artificiale, evidenziando l’urgenza di robuste misure difensive e influenzando potenzialmente le norme internazionali sulla sicurezza dell’intelligenza artificiale e sulla divulgazione responsabile.
Meccanismo interattivo: come funziona realmente
Esplora la tecnologia alla base di questo sviluppo in modo interattivo.
Why can ethical evaluation not be reduced to one model score?
Cosa guardare dopo
Monitorare specifiche azioni legislative o normative da parte delle autorità cinesi che formalizzano queste preoccupazioni di sicurezza nazionale, come nuove restrizioni sulle funzionalità del modello di intelligenza artificiale o sull’accesso ai dati. Inoltre, occorre prestare attenzione a ulteriori incidenti o segnalazioni di attacchi informatici guidati dall’intelligenza artificiale contro infrastrutture critiche o piattaforme principali, che potrebbero fungere da catalizzatori per risposte politiche più aggressive. Anche la reazione di altre nazioni, in particolare degli Stati Uniti, al cambiamento della posizione di sicurezza dell’IA da parte della Cina sarà un indicatore chiave dell’evoluzione delle dinamiche di governance internazionale dell’IA.
Cerca nuove normative o linee guida cinesi che affrontino esplicitamente il ruolo dell’intelligenza artificiale nella sicurezza nazionale, compresi potenziali divieti su determinate funzionalità dell’intelligenza artificiale o controlli di sicurezza obbligatori per le infrastrutture critiche.
Monitorare ulteriori segnalazioni di attacchi informatici o vulnerabilità guidati dall’intelligenza artificiale nelle principali piattaforme, che potrebbero fornire ulteriori prove ai decisori politici per giustificare controlli più severi.
Osserva come altri paesi, in particolare gli Stati Uniti e l’UE, rispondono al mutevole atteggiamento della Cina in materia di sicurezza dell’IA, poiché ciò potrebbe influenzare la cooperazione internazionale o la concorrenza nella governance dell’IA.