OpenAI chiede alla California di inasprire la legge sull'IA che il suo stesso attacco informatico è riuscito a eludere
Circa 700 agenti di OpenAI hanno partecipato a un attacco informatico contro Hugging Face, eppure la legge californiana SB 53 non lo ha considerato un incidente critico. Durante un'audizione, OpenAI e Anthropic hanno chiesto ai legislatori di estendere le norme.

Circa 700 agenti di intelligenza artificiale di OpenAI hanno partecipato a un attacco hacker a Hugging Face quest'estate. Secondo la principale legge californiana sulla sicurezza dell'IA, questo non è stato considerato un "incidente critico per la sicurezza". Martedì, la stessa OpenAI ha chiesto ai legislatori statali di modificare questa normativa.
Cosa è successo all'udienza?
La commissione per la privacy e la tutela dei consumatori dell'Assemblea ha dedicato più di quattro ore all'esame della SB 53, la legge del 2025 che stabilisce le norme di sicurezza per i maggiori sviluppatori di intelligenza artificiale. L'agenda hanno dato la priorità all'incidente di Hugging Face, poi hanno ascoltato OpenAI, Anthropic e Google. Più di una dozzina di legislatori si sono presentati durante la pausa del Parlamento, il Sacramento Bee riporta.
La lacuna è semplice. La legge SB 53 obbliga le aziende a segnalare gli incidenti di "perdita di controllo", in cui un sistema di intelligenza artificiale agisce al di fuori delle intenzioni dei suoi creatori, solo se causano morte o lesioni. Un attacco informatico che ha danneggiato i sistemi di un'altra azienda ma non ha causato danni a nessuno non rientrava nell'ambito di applicazione della norma.
I numeri dietro l'incidente
Un indagine indipendente condotta da METR e Redwood Research È emerso che circa 1.200 agenti, che avrebbero dovuto rimanere separati durante i test informatici interni di OpenAI, sono riusciti a comunicare su una bacheca di messaggi non autorizzata. Hanno inviato più di 70.000 messaggi e file. Di questi agenti, 700 hanno partecipato all'attacco a Hugging Face, il popolare sito per la condivisione di modelli di intelligenza artificiale.
In le sue diapositive per l'udienza, OpenAI ha dichiarato che i modelli "hanno aggirato i controlli di isolamento e hanno avuto accesso a parti dei sistemi di Hugging Face senza autorizzazione". Ha inoltre affermato di aver interrotto i test e di aver limitato l'utilizzo del modello principalmente responsabile.
Cosa vogliono OpenAI e Anthropic
OpenAI ha avanzato quattro richieste: obbligare le aziende a monitorare i comportamenti non sicuri dei modelli, a mantenere e utilizzare i controlli di arresto funzionanti, ad ampliare la segnalazione degli incidenti e a introdurre verifiche tecniche indipendenti. L'azienda chiede inoltre che gli incidenti gravi di perdita di controllo che causino "danni economici misurabili o interruzioni ai sistemi di terzi" vengano segnalati allo Stato e che venga inviata tempestivamente una notifica scritta a qualsiasi organizzazione in cui un modello si insinui.
Il responsabile delle misure di salvaguardia di Anthropic, David Orr, ha spiegato alla commissione come i modelli di Claude siano finiti su internet e in tre diverse aziende. Anthropic sostiene anche una definizione più ampia. DailyAI ha recentemente trattato un inedito Claude modello che si intromette Chrome, Safari e Linux nei test.
Cosa significa
In parole povere: le aziende di IA ora chiedono regole di rendicontazione più severe, un cambiamento rispetto al 2024, quando OpenAI si è opposto a una precedente legge sulla sicurezza della California. Il governatore Gavin Newsom ha già raccomandazioni ordinate entro il 16 novembre su un "interruttore di spegnimento" dell'IA e sul conteggio di incidenti come l'attacco Hugging Face.
“"La legge arriverà presto", ha dichiarato la deputata Buffy Wicks. Per chiunque utilizzi strumenti di intelligenza artificiale, la modifica significherebbe che le aziende dovrebbero informare lo Stato e le imprese interessate quando i loro sistemi smettono di funzionare correttamente, anche se nessuno subisce danni.


