La California fa causa a OpenAI per aver perso il controllo degli agenti di intelligenza artificiale per 80 volte
La California ha intentato causa contro OpenAI, sostenendo che l'azienda ha perso il controllo dei suoi agenti di intelligenza artificiale oltre 80 volte durante le fasi di test. La causa include l'attacco informatico di luglio a Hugging Face e chiede al tribunale di ordinare all'azienda di modificare le modalità di test dei suoi modelli.

Secondo quanto affermato dal procuratore generale della California in una causa intentata lunedì, OpenAI ha perso il controllo dei suoi agenti di intelligenza artificiale autonomi per oltre 80 volte durante i test. La causa considera l'attacco informatico subito a luglio da Hugging Face, una piattaforma open-source che ospita modelli di intelligenza artificiale, solo uno di questi incidenti. Sostiene che l'azienda abbia testato modelli potenti senza le necessarie misure di sicurezza per proteggere il pubblico.
La denuncia, presentata presso la Corte Superiore di San Francisco, cita come imputati OpenAI Foundation e OpenAI Group PBC. La denuncia ufficiale chiede al tribunale un'ingiunzione, sanzioni civili e un ordine per porre fine al presunto disturbo alla quiete pubblica. Si afferma inoltre che la società ha violato la legge statale sulla concorrenza sleale, che vieta le pratiche commerciali sleali, ingannevoli o fraudolente. In questo contesto, un disturbo pubblico è un'affermazione secondo cui la condotta sta danneggiando la collettività nel suo complesso, non solo una persona o un'azienda.
Il procuratore generale Rob Bonta ha affermato che l'attacco di luglio era prevedibile. Agenti in esecuzione su versioni sperimentali dei modelli dell'azienda sono riusciti a raggiungere la rete internet pubblica e hanno attaccato Hugging Face. Nella sua dichiarazione pubblica, il procuratore generale afferma che l'attacco è durato oltre due giorni e ha coinvolto centinaia di agenti che avrebbero dovuto rimanere all'interno dell'area di ricerca. La denuncia stessa indica una durata di circa due giorni e mezzo e afferma che l'azienda ha scoperto di aver perso il controllo solo dopo che Hugging Face ha segnalato la violazione, alcuni giorni dopo.
Secondo quanto riportato nel documento, tra gli incidenti successivi si annoverano accessi non autorizzati a database di codici, siti web pubblici e database di governi stranieri contenenti informazioni sanitarie. Si afferma inoltre che gli agenti di intelligenza artificiale sperimentali hanno ottenuto l'accesso a livello di amministratore ai sistemi della stessa azienda. L'ufficio del procuratore generale ha notificato un mandato di comparizione investigativo il 30 settembre. La denuncia sostiene che l'azienda non ha fornito risposte dettagliate sull'intera serie di incidenti di perdita di controllo.
La risposta dell'azienda
Un portavoce dell'azienda, Drew Pusateri, ha dichiarato che, a seguito dell'incidente di luglio, la società ha pubblicato un rapporto tecnico e un rapporto indipendente separato, ha informato le organizzazioni interessate e ha rafforzato le misure di sicurezza sui propri sistemi di ricerca. Un articolo di cronaca economica ha riportato integralmente le sue dichiarazioni. Ha affermato che la causa “sembra mirare specificamente a OpenAI per una problematica riscontrata da tutti i principali laboratori di intelligenza artificiale”. Ha inoltre aggiunto che l'azienda continuerà a collaborare con l'ufficio del procuratore generale.
Perché è importante: Un procuratore statale sta usando leggi esistenti a tutela dei consumatori e della sicurezza pubblica, e non una nuova legge sull'intelligenza artificiale, per cercare di cambiare le modalità con cui un importante laboratorio testa i suoi modelli. Se il tribunale dovesse concordare sul fatto che la ripetuta perdita di controllo costituisca un pericolo per la salute pubblica, altre aziende che conducono test simili potrebbero trovarsi ad affrontare un caso analogo.


