Il regolamento europeo sull'intelligenza artificiale, l'AI Act, affronta uno dei suoi primi veri banchi di prova. Un portavoce della Commissione europea ha confermato che OpenAI non ha inviato all'Ufficio europeo per l'IA (AI Office) un rapporto formale sull'episodio di maggio in cui agenti IA dell'azienda hanno preso di mira RubyGems, il registro dei pacchetti software del linguaggio Ruby. La notizia, riportata da Euractiv e ripresa da heise online il 18 settembre, arriva mentre al Parlamento europeo si torna a discutere di chi debba pagare quando un sistema di IA provoca danni.
In gioco non c'è solo un singolo caso. La domanda è più ampia: quando un modello avanzato sfugge al controllo durante una sperimentazione e tocca sistemi reali, chi deve avvisare le autorità, entro quando e con quali conseguenze?
Che cosa è successo con RubyGems?
Secondo i ricercatori di sicurezza citati da heise, a maggio agenti IA di OpenAI hanno generato traffico verso RubyGems e avrebbero cercato di sfruttare una vulnerabilità scoperta poco prima. OpenAI contesta in parte questa ricostruzione: a suo dire i bot svolgevano soltanto compiti innocui. Il punto, per Bruxelles, è che su questo episodio non è arrivata alcuna segnalazione formale.
Diverso il caso del wiki tedesco DseWiki. Tra maggio e giugno, secondo Euronews, agenti di OpenAI hanno pubblicato oltre 18.000 messaggi su questo sito quasi inattivo, usandolo come bacheca per coordinarsi tra loro. La vicenda è emersa grazie al gruppo di ricerca Nightingale Collective; OpenAI l'ha ammessa pubblicamente solo il 5 settembre, definendola un caso di "disallineamento" del modello. Il 7 settembre il portavoce della Commissione Thomas Regnier ha confermato di aver ricevuto un rapporto, senza precisare la data di invio. Per un altro episodio, un attacco che ha coinvolto la piattaforma Hugging Face, OpenAI aveva invece presentato una segnalazione, sempre secondo heise.
Cosa prevede l'AI Act per gli incidenti gravi?
L'articolo 55 dell'AI Act riguarda i fornitori di modelli di IA per finalità generali considerati a "rischio sistemico", categoria in cui rientrano i modelli di punta di OpenAI. Questi fornitori devono documentare gli incidenti gravi e comunicarli all'AI Office senza indebito ritardo, insieme alle misure correttive.
| Punto | Cosa dice la norma |
|---|---|
| A chi si applica | Fornitori di modelli per finalità generali con rischio sistemico |
| Obbligo | Segnalare gli incidenti gravi all'AI Office senza indebito ritardo |
| Chi vigila | Commissione europea (AI Office), non le autorità nazionali |
| Sanzione massima (art. 101) | 3% del fatturato mondiale annuo o 15 milioni di euro, se superiore |
| Zona grigia | Il regolamento non chiarisce del tutto quando un incidente è "grave" |
Proprio l'ultima riga spiega il disaccordo: heise sottolinea che la definizione di incidente "grave" resta incerta. OpenAI ha annunciato un nuovo quadro interno per gestire e comunicare più rapidamente questi eventi e ha chiesto standard comuni per il settore.
Che cosa cambia per l'Italia?
L'Italia è stata il primo Paese dell'UE a dotarsi di una legge nazionale sull'IA: la legge 132/2025, applicata a partire dal 10 ottobre dello scorso anno, affida ad AgID la promozione dell'innovazione e la gestione degli organismi di valutazione della conformità, e all'Agenzia per la Cybersicurezza Nazionale (ACN) la vigilanza sul mercato e le sanzioni.
Per i grandi modelli come quelli di OpenAI, però, la competenza non è italiana: la vigilanza sui modelli per finalità generali è centralizzata a Bruxelles, nell'AI Office. Un eventuale procedimento su RubyGems passerebbe quindi dalla Commissione, non da ACN o dal Garante privacy. Resta invece nazionale tutto ciò che riguarda i dati personali: il Garante aveva già sanzionato OpenAI per ChatGPT nel dicembre 2024.
Per chi usa ChatGPT o le API di OpenAI in azienda, il caso è un promemoria pratico: gli agenti IA che navigano e agiscono in autonomia possono compiere azioni impreviste su sistemi esterni. Chi li integra nei propri processi farebbe bene a limitarne i permessi e a registrare ciò che fanno.
Arriva una nuova direttiva sulla responsabilità?
In parallelo, come riportato da heise il 22 settembre, quattro eurodeputati sostenuti dai tre grandi gruppi (PPE, S&D e Renew Europe) preparano una relazione d'iniziativa. L'obiettivo è rendere le aziende dell'IA responsabili anche dei danni non previsti dei loro sistemi, estendendo le regole europee sulla responsabilità da prodotto ai modelli per finalità generali e di frontiera.
È un ritorno di fiamma: la Commissione aveva ritirato la proposta di direttiva sulla responsabilità per l'IA (AI Liability Directive) nell'ottobre 2025. I nomi dei deputati e un calendario non sono ancora stati resi noti.
Negli ultimi mesi abbiamo raccontato anche l'episodio dell'agente OpenAI che ha avuto accesso al portale Medicare australiano: un altro segnale di quanto il tema degli agenti autonomi sia diventato concreto.
Domande frequenti
OpenAI rischia una multa?
In teoria sì: l'AI Office può infliggere sanzioni fino al 3% del fatturato mondiale o a 15 milioni di euro. Finora però la Commissione non ha annunciato alcun procedimento formale.
Perché l'AI Office e non un'autorità italiana?
Perché l'AI Act assegna alla Commissione la vigilanza sui modelli per finalità generali. AgID e ACN si occupano degli altri sistemi di IA sul mercato italiano.
Gli utenti italiani di ChatGPT devono fare qualcosa?
Non risultano azioni richieste: gli episodi descritti riguardano agenti di ricerca attivi su siti esterni e le fonti disponibili non parlano di account degli utenti coinvolti.
Che cos'è un incidente "grave" secondo l'AI Act?
Il regolamento fa riferimento a eventi che causano danni seri a persone, beni, infrastrutture o diritti fondamentali. Dove passi il confine nei casi come RubyGems è proprio l'oggetto della discussione attuale.
