Ricercatori sfruttano vulnerabilità di OpenAI utilizzando il modello Claude di Anthropic

Il 25 luglio, un gruppo di tre ricercatori di Hacktron AI ha fatto notizia sfruttando strumenti avanzati di intelligenza artificiale, in particolare il modello Claude (Opus 5) di Anthropic, per accedere a più account ChatGPT di dipendenti OpenAI e a parti della loro infrastruttura aziendale. Questo accesso è stato ottenuto attraverso un programma di bug bounty, che ha premiato i ricercatori con 6.500 dollari per la segnalazione delle vulnerabilità.

L’attacco ha avuto inizio con una falla nel software del forum comunitario Discourse, che gestiva l’upload di file immagine HEIF/HEIC. Un bug di memoria nella libreria libheif, utilizzata per la conversione delle immagini, ha permesso ai ricercatori di compromettere il server. Sebbene il difetto fosse stato corretto dagli sviluppatori di libheif mesi prima, la correzione non era stata formalmente segnalata con un CVE, e la versione vulnerabile era ancora in uso.

I ricercatori hanno notato che il modello Opus 4.8 non era in grado di generare un exploit funzionante, ma con il rilascio di Opus 5, il modello ha prodotto un exploit in poche ore. Dopo aver ottenuto l’accesso al server Discourse, hanno scoperto una seconda vulnerabilità che ha consentito loro di controllare gli account ChatGPT e Codex, incluso quello di un dipendente OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda.

Discourse ha rilasciato una patch per la vulnerabilità il 27 luglio, ma l’incidente ha sollevato preoccupazioni significative sulla sicurezza delle piattaforme di intelligenza artificiale. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha commentato che “per 200 dollari al mese, chiunque può usare questi strumenti e hackerare una società come OpenAI”. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit. Lavoro che prima richiedeva mesi ora può richiederne giorni”.

È interessante notare che Opus 5 non è stato soggetto alle restrizioni di esportazione che hanno interessato versioni successive come Mythos 5, che è stata temporaneamente limitata per timori sulle sue capacità di hacking. Inoltre, modelli a pesi aperti come GLM-5.2 di Z.ai stanno riducendo il divario di capacità, avvicinandosi a modelli più avanzati come GPT-5.5 e Claude Opus 4.7.

Questo episodio si verifica in un contesto di crescente attenzione verso la sicurezza nelle aziende che sviluppano intelligenza artificiale, sottolineando la necessità di una vigilanza continua e di misure di sicurezza adeguate per proteggere i dati sensibili e le infrastrutture aziendali.