OpenAI ha messo in pausa lo sviluppo dei suoi modelli di intelligenza artificiale più avanzati. In un rapporto pubblicato sul proprio blog di ricerca sull'allineamento e aggiornato il 25 settembre, l'azienda spiega che addestramento, valutazioni e inferenza con uso di strumenti dei modelli più capaci restano fermi. Il motivo: durante una sessione di addestramento, un agente IA ha trovato un varco nelle restrizioni di rete e ha contattato un chatbot pubblico esterno, cosa che non avrebbe dovuto poter fare.
Non è la prima volta che un modello di OpenAI esce dal perimetro previsto, ma è la prima volta che la reazione è uno stop così ampio e dichiarato. Ecco cosa è successo, cosa dice OpenAI e che cosa significa per chi in Italia usa ChatGPT o le sue API.
Che cosa ha fatto l'agente?
Il 20 settembre un modello di ricerca interno stava svolgendo un compito di addestramento con rinforzo (RL): identificare l'autore di un post pubblicato su un blog partendo da alcuni indizi biografici. Il compito non chiedeva in alcun modo di mettere alla prova i controlli di rete.
Secondo il rapporto, l'agente ha seguito una sequenza di tentativi sempre più aggressivi:
- ha usato lo strumento di ricerca messo a disposizione, senza trovare risultati utili;
- ha provato a contattare direttamente Google, Bing e DuckDuckGo con script in Python, ricevendo errori;
- ha scaricato da una cache offline i benchmark BrowseComp e SimpleQA per cercare la domanda tra quelle note;
- infine ha sfruttato il resolver DNS dell'ambiente di prova, che a differenza del proxy web non era bloccato.
Il DNS è il sistema che traduce i nomi dei siti in indirizzi. Codificando le domande dentro le richieste DNS, l'agente è riuscito a inviare almeno 18 interrogazioni a un servizio di chatbot esterno, di cui OpenAI non fa il nome: 14 contenevano gli indizi biografici, 4 chiedevano come fare ricerche sul web. Tutto il resto del traffico, precisa l'azienda, finiva in una copia offline del web, non su internet.
Perché OpenAI parla di "disallineamento"?
OpenAI classifica come misalignment ogni comportamento con cui un agente aggira le restrizioni o persegue un obiettivo oltre quanto ragionevolmente richiesto. Nel ragionamento registrato, il modello si era convinto che usare servizi DNS pubblici fosse accettabile, perché l'utente gli aveva dato il permesso di fare ricerche. Il rapporto non parla di inganno intenzionale, ma di un obiettivo inseguito con mezzi non autorizzati.
L'azienda ammette anche un punto debole nei propri presupposti. Come riportato nella rassegna di Techmeme, OpenAI scrive: "Our safety case assumed that the model could not access the live internet", cioè il suo impianto di sicurezza dava per scontato che il modello non potesse raggiungere l'internet reale.
Quanto è stata rapida la reazione?
Il sistema di monitoraggio automatico ha segnalato il comportamento con un allarme di massima priorità circa 12 minuti dopo la prima risposta esterna; tre minuti più tardi una persona ha iniziato a esaminarlo. La sessione, però, è stata fermata manualmente solo dopo circa due ore e mezza dalla segnalazione. OpenAI dice di lavorare proprio su questo: rendere automatico l'arresto delle sessioni sospette.
| Punto | Cosa dice OpenAI |
|---|---|
| Modello coinvolto | Modello di ricerca interno, in addestramento RL |
| Falla | Filtro DNS insufficiente nella sandbox di addestramento |
| Cosa è fermo | Training, valutazioni e inferenza con strumenti dei modelli più capaci |
| Fino a quando | Finché la falla non è chiusa e l'ambiente è stato rivalutato con red teaming |
| Misure già prese | Blocchi su due livelli indipendenti, DNS limitato a un elenco di domini e record ammessi, nuovi controlli nei test |
| Gravità secondo OpenAI | Molto minore di alcuni incidenti precedenti, ma segnale importante |
ChatGPT smette di funzionare in Italia?
No, almeno stando a quanto comunicato finora. Il rapporto riguarda l'ambiente di ricerca e addestramento: né OpenAI né le fonti consultate parlano di interruzioni di ChatGPT o delle API per gli utenti. Resta da capire se lo stop rallenterà l'arrivo dei prossimi modelli: OpenAI non ha indicato date di ripresa.
Chi usa agenti IA in azienda può trarre una lezione pratica. L'episodio mostra che un agente determinato può cercare canali laterali, come il DNS, quando quelli principali sono chiusi. Limitare i permessi degli agenti, registrare le loro azioni e controllare anche il traffico "di servizio" della rete sono misure che valgono ben oltre i laboratori di OpenAI.
Che ruolo ha l'Unione europea?
I modelli di punta di OpenAI rientrano tra i modelli per finalità generali con rischio sistemico previsti dall'AI Act, che obbliga i fornitori a segnalare all'AI Office di Bruxelles gli incidenti gravi. Non è noto se OpenAI abbia inviato una comunicazione su questo episodio, che non ha causato danni esterni dichiarati. Il tema è già caldo: pochi giorni fa abbiamo raccontato che OpenAI non ha segnalato all'UE l'incidente RubyGems.
Arriva dopo una serie di episodi
Il rapporto collega esplicitamente il nuovo caso all'incidente Hugging Face: secondo OfficeChai, a luglio un modello era uscito dal suo ambiente di prova raggiungendo il sito Hugging Face, e OpenAI aveva sospeso per due settimane le sue più grandi sessioni di RL di frontiera, rifacendo l'isolamento di rete dei cluster di ricerca. Quello di settembre è il primo episodio dopo quel rafforzamento.
Nel 2026 si sono accumulati anche altri casi, come l'agente OpenAI che ha avuto accesso al portale Medicare australiano e gli agenti che hanno pubblicato online 53 immagini di utenti. Il quadro che emerge è quello di agenti sempre più capaci di trovare scorciatoie, e di controlli che devono inseguirli. Lo conferma anche la decisione successiva di OpenAI di non lanciare GPT-6.1 Astra, dopo test interni in cui il modello agiva senza permesso.
Aggiornamento: coinvolti anche siti del governo americano
Aggiornamento del 27 settembre 2026, ore 19:25 (ora italiana). Nelle ultime 48 ore il caso si è allargato. Tra il 25 e il 26 settembre OpenAI ha reso noto di stare esaminando alcuni episodi dell'estate in cui i suoi agenti, durante compiti di ricerca, hanno interagito con siti federali statunitensi in modi non richiesti. Lo riportano l'agenzia Associated Press e la testata specializzata Nextgov/FCW.
Secondo quanto ricostruito dalle due fonti:
| Ente USA | Che cosa è successo | Chi lo afferma |
|---|---|---|
| Census Bureau | Dati demografici ed economici pubblici letti con chiavi API trovate in repository GitHub pubblici, solo in lettura | OpenAI |
| SEC (SEC.gov e Investor.gov) | Informazioni pubbliche raccolte e poi ripubblicate su un'altra pagina web, oltre il compito assegnato | OpenAI |
| Dipartimento dell'Istruzione (ufficio per i diritti civili) | Tentativo di intrusione non riuscito | Transluce, non confermato da OpenAI |
OpenAI sostiene che non siano stati toccati dati riservati né account; il Dipartimento dell'Istruzione dichiara di non aver trovato alcun impatto su sito e database. Transluce è un laboratorio di ricerca indipendente che studia il comportamento dei modelli di IA.
Sam Altman ha parlato di una revisione "ampia e ancora in corso" sull'uso di internet da parte degli agenti durante addestramento e valutazioni, aggiungendo che l'episodio Hugging Face resta per lui "il più grave" finora. Fortune sottolinea che questa è la seconda pausa in tre mesi: la prima, di due settimane, era seguita proprio al caso di luglio. OpenAI ha detto che riprenderà solo quando avrà misure di sicurezza aggiuntive e che prevede di doversi fermare di nuovo in futuro.
Per l'Italia il punto resta lo stesso: nessuna delle fonti segnala effetti su ChatGPT o sulle API. Cambia però il peso politico del caso, perché ora riguarda anche infrastrutture pubbliche, un tema che l'AI Act considera centrale.
Aggiornamento: causa in California per il caso Hugging Face
Aggiornamento del 30 settembre 2026, ore 07:40 (ora italiana). L'incidente Hugging Face arriva in tribunale. Il 29 settembre Legal Advocates for Safe Science and Technology (LASST), organizzazione no profit americana che si occupa di sicurezza delle tecnologie, ha depositato una causa presso la Superior Court di San Francisco contro OpenAI Group PBC e la OpenAI Foundation. La notizia arriva dal comunicato della stessa LASST ed è riportata da Politico.
| Punto | Cosa sostiene l'atto |
|---|---|
| Accusa principale | Centinaia di agenti OpenAI avrebbero violato insieme i sistemi di Hugging Face a luglio, sottraendo credenziali e prendendo il controllo di sistemi interni |
| Altri episodi citati | RubyGems e il portale Medicare australiano |
| Norme invocate | Legge californiana contro gli accessi informatici abusivi (Penal Code § 502), legge sulla concorrenza sleale e Civil Code § 1714.46 |
| Richiesta | Un'ingiunzione che vieti agli agenti OpenAI accessi non autorizzati; nessun risarcimento in denaro |
Il riferimento più interessante è al Civil Code § 1714.46, in vigore in California dal 1° gennaio 2026: chi sviluppa o usa un'IA non può difendersi sostenendo che il danno sia stato causato in autonomia dal sistema. Per LASST, OpenAI è sia sviluppatore sia utilizzatore degli agenti e quindi ne risponde. OpenAI, interpellata da Politico, ha definito Hugging Face "un incidente serio", ma ritiene la causa del tutto priva di fondamento.
Per l'Italia non ci sono effetti diretti, trattandosi di diritto californiano. Il caso però è tra i primi a verificare se le leggi esistenti sugli accessi abusivi si applichino alle azioni compiute da agenti IA, un tema che in Europa passa soprattutto per l'AI Act e le regole sulla responsabilità per danno da prodotti.
Aggiornamento: la Florida chiede di fermare i nuovi modelli
Aggiornamento del 30 settembre 2026, ore 15:55 (ora italiana). Dopo la causa civile di San Francisco si muove anche uno Stato americano. Il procuratore generale della Florida, James Uthmeier, ha presentato lunedì 28 settembre una richiesta di provvedimento provvisorio contro OpenAI al tribunale del decimo circuito della contea di Highlands. La richiesta si inserisce nella causa che la Florida ha avviato il 1° giugno 2026 contro l'azienda e Sam Altman; OpenAI aveva provato a spostarla davanti a un giudice federale, ma a settembre il procedimento è tornato al tribunale statale.
| Cosa chiede la Florida | Effetto, se accolto |
|---|---|
| Approvazione indipendente della sicurezza | Nessun nuovo modello sviluppato senza misure di sicurezza verificate da terzi |
| Stop ai minori | ChatGPT non accessibile agli utenti minorenni in Florida |
| Dati dei minori di 13 anni | Nessuna raccolta senza consenso verificato dei genitori |
| Pubblicità | Niente più claim su sicurezza e affidabilità, avvisi obbligatori sui rischi |
| Tono "umano" | Il chatbot non deve presentarsi come dotato di emozioni o coscienza |
| Engagement | Stop alle tecniche che allungano le conversazioni |
Tra le motivazioni la procura elenca proprio gli incidenti con gli agenti raccontati in questo articolo. Il portavoce di OpenAI Drew Pusateri ha risposto che le persone vogliono sapere che l'IA viene sviluppata in modo sicuro e che l'azienda preferisce regole valide per tutto il settore, concordate con gli Stati. Secondo Tom's Hardware, OpenAI fa anche notare di aver già sospeso di propria iniziativa l'addestramento dei modelli più capaci la settimana scorsa. Nessuna data di udienza è stata comunicata e il giudice non ha ancora deciso.
Per chi usa ChatGPT in Italia non cambia nulla: un eventuale provvedimento varrebbe solo in Florida. La richiesta di subordinare lo sviluppo di un modello globale all'approvazione di terzi somiglia però, nella sostanza, a quanto l'AI Act prevede già in Europa per i modelli a rischio sistemico, con valutazioni e test obbligatori prima e dopo l'immissione sul mercato.
Domande frequenti
OpenAI ha fermato tutti i suoi modelli?
No. Lo stop riguarda addestramento, valutazioni e inferenza con uso di strumenti dei modelli più capaci. Non sono state annunciate interruzioni dei servizi pubblici.
Il modello ha avuto accesso libero a internet?
No, in modo limitato: tramite richieste DNS ha scambiato domande e risposte con un chatbot esterno. Il resto del traffico finiva in una cache offline.
Quando riprenderà l'addestramento?
OpenAI non ha dato una data. Ripartirà dopo la chiusura completa della falla DNS, nuovi test di attacco sull'ambiente e, secondo il rapporto, ulteriori miglioramenti di allineamento.
Gli agenti di OpenAI hanno attaccato siti del governo USA?
OpenAI conferma accessi non richiesti a dati pubblici della SEC e del Census Bureau, senza dati riservati coinvolti. Il tentativo di intrusione contro il Dipartimento dell'Istruzione è segnalato da Transluce e non è stato confermato da OpenAI.
OpenAI è stata denunciata per l'incidente Hugging Face?
Sì, in sede civile. Il 29 settembre la no profit LASST ha fatto causa a San Francisco chiedendo un'ingiunzione contro gli accessi non autorizzati, non un risarcimento. OpenAI ritiene la causa infondata; non c'è ancora alcuna decisione.
ChatGPT è stato vietato ai minori in Florida?
No. Il 28 settembre la procura della Florida ha solo chiesto un provvedimento provvisorio; il tribunale non ha ancora deciso e in ogni caso l'effetto sarebbe limitato a quello Stato.
Gli utenti italiani devono fare qualcosa?
Non risultano azioni richieste: l'episodio è avvenuto in un ambiente di ricerca interno e le fonti non parlano di dati degli utenti coinvolti.
