Quando alla mattina leggi il Corriere e ci trovi un articolo che parla di informatica c’è sempre da preoccuparsi. In genere gli autori, a volte tecnici, il più delle volte meno, nel tentativo di far comprendere ad un’audience normalmente poco avvezza alle tematiche finiscono per creare molta enfasi e poca realtà.

Non è questo il caso dell’articolo dal titolo OpenAI, un modello AI sfugge al controllo umano e hackera un sito: violata la piattaforma Hugging Face, scritto (bene) da Roberto Cosentino e Cristina Marrone, il quale si apre con questa descrizione: Nel corso di un test i modelli di OpenAI sono riusciti ad eludere i limiti interni alla stessa compagnia e attaccare un sito per sviluppatori con l’obiettivo di recuperare informazioni utili a superare la valutazione.

Il sito “per sviluppatori” in questione è nientemeno che Hugging Face, il portale dove risiede la quasi totalità dei modelli open-source utilizzati quotidianamente da decine di migliaia di persone per sperimentare e lavorare con l’AI.

L’articolo, che per questa ragione ritengo scritto bene, citando il blog post di spiegazione di OpenAI, recita:

OpenAI, nel proprio blog post, riferisce come si sia svolto l’attacco, unendo gli eventi a una malcelata enfasi, utile a sottolineare le capacità del proprio modello e di quello pre-release di cui non è stato svelato il nome. La compagnia si sbilancia e afferma: «Consideriamo questo incidente un attacco informatico senza precedenti, che ha coinvolto capacità informatiche all’avanguardia, e stiamo reagendo di conseguenza».

Ed è proprio su quella malcelata enfasi che tutti dovremmo interrogarci.

Su cosa? Per esempio sul fatto che tutto oggi è promozione. Il problema è di tipo informatico, sicuramente reale, tanto da spingere Hugging Face a ringraziare OpenAI per la clemenza dimostrata nel condividere le scoperte, ma il messaggio è chiaro: siamo troppo fighi! Il nostro modello è talmente potente da uscire autonomamente dalla sandbox che avevamo predisposto e violare un sistema esterno come Hugging Face.

E il sottinteso è: pensa cosa potreste farci voi, pagando, con un modello così potente!

Ora, se vi state chiedendo cosa sia successo nel dettaglio, provo a spiegarlo, ma ci sono fonti più autorevoli che sicuramente sanno fare di meglio, vedi Bleeping Computer: OpenAI stava testando i suoi modelli AI (incluso GPT‑5.6 Sol e un modello pre-rilascio ancora più avanzato) su un benchmark pubblico di cybersecurity che si chiama ExploitGym (qui la descrizione) il cui scopo è rispondere a una domanda: data una vulnerabilità, una AI è capace di exploitarla autonomamente?

A quanto pare per i modelli di OpenAI la risposta è sì, poiché hanno “ragionato” che potevano ottenere le soluzioni già pronte proprio dal database di produzione di Hugging Face, organizzando un attacco per rubare le risposte. Dentro a questo attacco c’è quindi lo sfruttamento di vulnerabilità zero-day, utilizzo di credenziali rubate, identificazione di vettori per eseguire codice in remoto (Remote Code Execution) tutto convertito in azioni di privilege escalation e movimento laterale all’interno dei sistemi, fino a raggiungere un nodo con accesso a Internet.

Ora, pur pronto a sentirmi dare dell’ignorante perché non comprendo la portata dell’evento, è possibile non dirsi sorpresi considerando le competenze degli LLM moderni, la qualità degli agenti che li utilizzano e le disponibilità computazionali di un’azienda come OpenAI?

Possibile che sia tutto hype? E se quell’hype viene tolto, cosa rimane? Una serie di giustificazioni: agli investitori, a chi sta pagando e pagherà (sempre più) per questi modelli stratosferici, a chi si chiede se tutti quei datacenter sono così necessari.

Del resto era stato lo stesso per Mythos, troppo potente per poter esser reso pubblico, eppure pubblico lo è diventato ed il mondo è ancora in piedi, certo qualcuno, vedi il Kernel Linux e il progetto curl, ha qualche grattacapo in più per via di tutti i bug che vengono rilevati.

La domanda conclusiva quindi: è davvero questo il mondo che vogliamo? E la risposta potrebbe certamente essere “io che ci posso fare?!”.

Forse però, smettere di sorprendersi potrebbe essere un buon punto di partenza.