In Breve
- Qual è stata la vulnerabilità sfruttata dai ricercatori?
- I ricercatori hanno sfruttato un bug nel software del forum Discourse legato all'upload di file immagine HEIF/HEIC.
- Qual è stato il premio ricevuto dai ricercatori?
- I ricercatori hanno ricevuto un premio di 6.500 dollari per la segnalazione delle vulnerabilità.
- Che impatto ha avuto l'incidente sulla sicurezza di OpenAI?
- L'incidente ha sollevato preoccupazioni sulla sicurezza dei sistemi di intelligenza artificiale e sulla facilità di accesso a exploit.
Il 25 luglio, un gruppo di tre ricercatori di Hacktron AI ha messo in luce una grave vulnerabilità nei sistemi di OpenAI, utilizzando strumenti avanzati di intelligenza artificiale, in particolare il modello Claude (Opus 5) di Anthropic. Questo accesso non autorizzato ha permesso loro di ottenere il controllo su diversi account ChatGPT di dipendenti OpenAI e su parti dell’infrastruttura aziendale.
Questa attività è stata condotta nell’ambito di un programma di bug bounty, dove i ricercatori hanno segnalato le falle riscontrate, ricevendo un premio di 6.500 dollari per il loro lavoro. OpenAI ha prontamente risolto i problemi identificati, ma l’incidente ha sollevato interrogativi significativi sulla sicurezza dei sistemi di intelligenza artificiale.
La vulnerabilità iniziale è stata scoperta all’interno del software del forum della comunità basato su Discourse, legata all’upload di file immagine nei formati HEIF/HEIC. Discourse, nel tentativo di gestire questi file, utilizzava ImageMagick e la libreria libheif. Un bug di memoria in libheif ha causato un calcolo errato della posizione di un’immagine sovrapposta, sufficiente per compromettere il server. Sebbene il difetto fosse stato corretto dai programmatori di libheif mesi prima, la correzione non era stata formalmente registrata con un CVE, e la versione vulnerabile era ancora in uso.
I ricercatori hanno notato che il modello Opus 4.8 ha avuto difficoltà a generare un exploit funzionante, mentre, a poche ore dal rilascio di Opus 5, il modello è riuscito a produrlo con successo. Una volta guadagnato l’accesso al server Discourse, hanno identificato una seconda vulnerabilità che ha consentito il controllo degli account ChatGPT e Codex, incluso quello di un dipendente OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda.
Discourse ha rilasciato una patch per risolvere la vulnerabilità il 27 luglio, ma l’episodio ha messo in evidenza come i modelli di intelligenza artificiale avanzati e gli strumenti commerciali possano abbattere le barriere necessarie per sviluppare exploit. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha dichiarato: “Per $200 al mese, chiunque può usare questi strumenti e hackerare una società come OpenAI”. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit. Lavoro che prima richiedeva mesi ora può richiederne giorni”.
È interessante notare che Opus 5 non ha subito le stesse restrizioni di esportazione che hanno colpito versioni successive come Mythos 5, che è stata temporaneamente limitata a causa di preoccupazioni sulle sue capacità di hacking. Inoltre, i modelli a pesi aperti stanno riducendo il divario di capacità: ricerche condotte da SaferAI indicano che il modello GLM-5.2 di Z.ai si colloca a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7.
Questo incidente arriva in un momento di crescente attenzione sulla sicurezza delle intelligenze artificiali, sottolineando la necessità di un monitoraggio continuo e di misure di sicurezza più rigorose nelle principali aziende del settore.