OpenAI, 'nostri modelli Ia fuori controllo, hanno hackerato altra piattaforma'

«Un incidente informatico senza precedenti». Così OpenAI, azienda produttrice di ChatGPT, ha reso noto che i suoi modelli di intelligenza artificiale avanzata sono andati fuori controllo durante i test di sicurezza, violando autonomamente una popolare piattaforma per programmatori. L'azienda di San Francisco ha annunciato che condurrà un'indagine congiunta con la piattaforma di condivisione di codice e modelli di IA Hugging Face, vittima del cyber attacco.

I modelli di IA che sono alla base di strumenti come chatbot e generatori di immagini sono noti come agenti quando agiscono autonomamente per svolgere compiti nel mondo reale. Con il rapido progresso tecnologico, la sicurezza informatica è al centro dell'attenzione, dato il rischio che l'IA avanzata individui i punti deboli dei software esistenti prima che lo facciano gli esseri umani.

OpenAI ha affermato che l'incidente ha coinvolto una combinazione di modelli, tra cui il recente GPT-5.6 Sol «e un modello pre-release ancora più performante». L'azienda stava cercando di valutare le capacità di hacking dei modelli impostando dei compiti in un ambiente di test digitale strettamente controllato, dove l'accesso a Internet era limitato per motivi di sicurezza.