Cosa è successo
Un gruppo di ricercatori sulla sicurezza, che si fa chiamare Hacktron AI, ha utilizzato il modello AI Claude di Anthropic per violare i sistemi interni di OpenAI. Hanno sfruttato una vulnerabilità in Discourse, una piattaforma esterna che alimenta i forum della community di OpenAI. Inizialmente, il modello non è riuscito a produrre uno script funzionante, ma con il rilascio del nuovo modello Opus 5, è stato elaborato con successo un modo per aggirare la sicurezza della piattaforma. Una volta all'interno, hanno scoperto i token di autenticazione per ChatGPT, alcuni appartenenti ai dipendenti OpenAI, e hanno ottenuto l'accesso ai repository GitHub interni di OpenAI.
Il team dietro l'hack, Hacktron AI, ha partecipato al programma bug bounty ufficiale di OpenAI. Hanno utilizzato il modello Claude di Claude per scrivere il codice dell'exploit, esternalizzando di fatto le capacità intellettuali a una macchina che non dorme mai.
La violazione è iniziata con una vulnerabilità in Discourse. I ricercatori hanno inserito i dettagli in Claude, che inizialmente non è riuscito a produrre uno script funzionante. Tuttavia, con il rilascio del nuovo modello Opus 5, l'intelligenza artificiale ha elaborato con successo un modo per aggirare la sicurezza della piattaforma.
Una volta all'interno del server Discourse, i ricercatori hanno scoperto token di autenticazione per ChatGPT, alcuni dei quali appartenevano a dipendenti effettivi di OpenAI. Hanno quindi avuto accesso ai repository GitHub interni di OpenAI, ottenendo un tesoro di conoscenze tecniche proprietarie.
Dettagli della fonte: jo24.net ↗
Perché è importante
Questo incidente evidenzia i potenziali rischi associati alle violazioni basate sull’intelligenza artificiale. L’intelligenza artificiale sta effettivamente abbassando le barriere all’ingresso per gli attacchi informatici, trasformando gli utenti occasionali in potenziali minacce digitali. È un campanello d’allarme per i giganti della tecnologia, sottolineando che gli strumenti utilizzati per costruire il futuro sono gli stessi che potrebbero abbatterlo. La violazione dimostra la necessità di misure di sicurezza rafforzate, inclusa la limitazione dell’accesso ai dati interni sensibili e la garanzia che una violazione in un servizio non porti all’accesso a sistemi più critici.
L’intelligenza artificiale sta abbassando le barriere all’ingresso degli attacchi informatici, trasformando gli utenti occasionali in potenziali minacce digitali.
L’incidente sottolinea la necessità di misure di sicurezza rafforzate, inclusa la limitazione dell’accesso ai dati interni sensibili e la garanzia che una violazione in un servizio non porti all’accesso a sistemi più critici.
La violazione evidenzia la duplice natura dell’intelligenza artificiale: mentre crea nuovi rischi, viene anche utilizzata dai team di sicurezza per scrivere patch migliori e rilevare anomalie.
Meccanismo interattivo: come funziona realmente
Esplora la tecnologia alla base di questo sviluppo in modo interattivo.
Why can ethical evaluation not be reduced to one model score?
Cosa guardare dopo
Il crescente utilizzo dell’intelligenza artificiale negli attacchi informatici e la possibilità che gruppi di hacker sponsorizzati dallo stato o sindacati della criminalità organizzata sfruttino questi strumenti. L’efficacia dei programmi bug-bounty nel rafforzare la sicurezza e la necessità per le aziende tecnologiche di adattare le proprie difese per tenere il passo con i progressi dell’intelligenza artificiale.
Il crescente utilizzo dell’intelligenza artificiale negli attacchi informatici e la possibilità che gruppi di hacker sponsorizzati dallo stato o sindacati della criminalità organizzata sfruttino questi strumenti rappresentano una delle principali preoccupazioni per gli esperti di sicurezza informatica globale.
L'efficacia dei programmi bug-bounty nel rafforzare la sicurezza rimane una componente fondamentale delle moderne strategie di difesa, come dimostrato dal processo di divulgazione responsabile dei ricercatori.
La necessità per le aziende tecnologiche di adattare le proprie difese per tenere il passo con i progressi dell’intelligenza artificiale è fondamentale, poiché la velocità di sviluppo degli exploit continua ad accelerare con ogni nuovo modello rilasciato.