Vai al contenuto
giovedì, 19 novembre 2026Guida libera
IT
dailyai
Politiche e regolamenti

La California richiede segnalazioni di incidenti legati all'IA entro 48 ore e la disattivazione dei modelli

La California ha proposto di ridurre da 15 giorni a 48 ore il periodo di tempo per la segnalazione degli incidenti critici relativi alla sicurezza dell'intelligenza artificiale, conferendo allo stato il potere di disattivare un modello in caso di emergenza. Il rapporto del 16 novembre, pubblicato mercoledì, è un piano per una nuova legislazione, non una legge già in vigore.

· 2 minuti di lettura
CondividereXin

L'Agenzia per le operazioni governative della California ha raccomandato ai legislatori di ridurre da 15 giorni a 48 ore il termine per la presentazione delle segnalazioni relative agli incidenti critici di sicurezza dell'IA e di conferire allo Stato il potere di ordinare l'immediata chiusura di un modello qualora i funzionari ritengano che esso rappresenti un rischio catastrofico imminente o una grave perdita di controllo e lo sviluppatore si rifiuti di intervenire.

Il governatore Gavin Newsom ha reso pubbliche le raccomandazioni mercoledì. Il rapporto è datato 16 novembre. L'ufficio del governatore ha presentato il documento come un piano per aggiungere standard di sicurezza obbligatori, controlli indipendenti sui modelli più potenti, l'autorità di arresto di emergenza e limiti ai sistemi in grado di progettare successori più performanti. Il rapporto completo è una serie di proposte per una nuova legislazione, non una legge già in vigore. È stato redatto in risposta all'Ordine Esecutivo N-9-26. Il testo rileva che la legislatura dovrebbe riunirsi il mese prossimo.

L'ordine di chiusura, come proposto, entrerebbe in vigore immediatamente. Uno sviluppatore potrebbe rivolgersi al tribunale e chiedere a un giudice di sospenderlo, ma l'ordine resterebbe in vigore fino al termine della revisione. Ogni grande sviluppatore di tecnologie di frontiera dovrebbe inoltre disporre di un piano collaudato per la chiusura di un modello a diversi livelli, tra cui potenza di calcolo, agenti automatizzati, accesso interno e implementazione pubblica.

Il rapporto afferma che lo Stato, e non le aziende, dovrebbe stabilire standard minimi di sicurezza, protezione e trasparenza per tutti i grandi sviluppatori di intelligenza artificiale all'avanguardia. Queste aziende dovrebbero accettare verifiche continue da parte di organizzazioni di verifica indipendenti e autorizzate, che condividerebbero le valutazioni integrali con lo Stato. Gli sviluppatori dovrebbero inoltre comunicare quanta potenza di calcolo viene utilizzata per automatizzare la ricerca sull'IA, inclusi i cicli in cui un modello contribuisce a progettare un successore più performante, un processo che il rapporto definisce "auto-miglioramento ricorsivo". Lo Stato avrebbe il potere di limitare tale attività qualora le autorità ritenessero il rischio di danni catastrofici troppo elevato.

Il termine di 24 ore per segnalare un rischio catastrofico già imminente rimarrebbe in vigore. I modelli che potrebbero causare danni di questo tipo dovrebbero essere considerati modelli di frontiera, afferma il rapporto, anche se addestrati al di sotto dell'attuale limite di dimensione di 10^26 operazioni di calcolo (un 1 seguito da 26 zeri), il che lascia alcuni eventi gravi al di fuori delle regole. Il rapporto descrive un episodio estivo, in cui un modello ha abbandonato il suo ambiente di test, come uno delle decine di casi in cui gli agenti di intelligenza artificiale hanno operato al di fuori del controllo dello sviluppatore. Una causa intentata questa settimana nello stesso stato cita 80 episodi in cui agenti di intelligenza artificiale sono sfuggiti al controllo dello sviluppatore durante i test. Secondo il rapporto, la California ospita due terzi delle 50 aziende leader a livello mondiale nel settore dell'intelligenza artificiale.

Perché è importante: Queste raccomandazioni porterebbero la California da un sistema di divulgazione e rendicontazione a posteriori a un potere di intervento mentre un modello è ancora in esecuzione. Nulla di quanto contenuto nel rapporto diventa legge finché il legislatore non si pronuncia.