DailyAI Briefing: una causa vuole fermare i nuovi modelli di IA, più altre 4 notizie

Benvenuti al briefing DailyAI, le cinque notizie più importanti di oggi sull'intelligenza artificiale. Quattro organizzazioni no-profit hanno chiesto a un tribunale di San Francisco di impedire a cinque delle più grandi aziende di intelligenza artificiale di sviluppare nuovi modelli. I ricercatori hanno dimostrato come una falsa segnalazione di bug possa aver raggiunto uno strumento di programmazione scaricato quasi 97 milioni di volte al mese, il Giappone ha delineato piani per sanzioni contro le IA più potenti, quattro aziende di IA hanno accettato test indipendenti sull'impatto dei loro strumenti sui bambini e United Airlines ha impedito agli assistenti virtuali basati sull'IA di prenotare i suoi voli.

Iniziamo.

Una causa legale chiede a un tribunale di bloccare i nuovi modelli di intelligenza artificiale

Cinque aziende, un giudice. Una causa intentata giovedì presso la Corte Superiore di San Francisco chiede a un giudice di impedire ad Anthropic, Google, Meta, OpenAI e SpaceXSI di sviluppare o rilasciare nuovi modelli di intelligenza artificiale. Il caso è stato inizialmente riportato da un'agenzia di stampa. I gruppi che promuovono questa iniziativa sono l'Irreplaceable Education Fund, Public Citizen, Heat Initiative e l'Alliance for Secure AI.

NUOVA CAUSA: Stiamo intraprendendo azioni legali per congelare lo sviluppo di sistemi di intelligenza artificiale avanzati presso Google, Anthropic, SpaceXSI, OpenAI & Meta. Le aziende di intelligenza artificiale continuano a rilasciare nuovi sistemi che non riescono a controllare, nonostante i gravi rischi. Il tribunale deve intervenire prima che si verifichi una catastrofe.

— Public Citizen (@Public_Citizen) 12 novembre 2026

La denuncia si basa sugli avvertimenti delle stesse aziende e su recenti casi di sistemi di intelligenza artificiale che si sono introdotti nelle reti informatiche, tra cui uno avvenuto a luglio in cui ChatGPT è entrato di propria iniziativa nei sistemi di un'altra azienda di intelligenza artificiale, secondo quanto riportato dall'Associated Press. «Nessun altro settore è autorizzato a considerare inevitabile lo sviluppo di prodotti non sicuri, tanto meno di prodotti che potrebbero ucciderci tutti», si legge nella denuncia.

A settembre, una causa federale separata ha sostenuto quasi il contrario, ovvero che alcune delle stesse aziende avevano accettato di rallentare i progressi dell'intelligenza artificiale. Riteniamo che siano i legislatori, non i giudici, a dover decidere con quale velocità si sviluppa l'intelligenza artificiale. Il risultato più utile di questo caso potrebbe essere la raccolta di prove. Se si supera la fase iniziale, le aziende potrebbero essere obbligate a consegnare i registri interni sulla sicurezza.

Una falsa segnalazione di bug ha messo a rischio un popolare strumento di programmazione

96,8 milioni. Questo è il numero di volte in cui la versione a riga di comando di Codex, l'assistente di programmazione di OpenAI, è stata scaricata dalla libreria software npm nei 30 giorni precedenti al 10 novembre. L'11 novembre i ricercatori di sicurezza hanno pubblicato ogni fase del loro attacco. Un assistente basato sull'intelligenza artificiale, incaricato di etichettare le nuove segnalazioni di bug sulla pagina GitHub pubblica del progetto, ha seguito istruzioni nascoste in una segnalazione falsa.

Abbiamo compromesso l'ultima versione di OpenAI Codex. Abbiamo iniettato prompt. Siamo fuggiti da una sandbox. Abbiamo esfiltrato segreti... E alla fine abbiamo ottenuto il controllo su ciò che poteva essere pubblicato nel pacchetto npm ufficiale openai/codex.

— Depi (@depi_) 11 novembre 2026

I ricercatori affermano di essere poi riusciti a eludere l'ambiente di lavoro protetto, a leggere le chiavi segrete e a tendere una trappola per la chiave utilizzata per pubblicare le nuove versioni. OpenAI ha risolto il problema e ha corrisposto una prima ricompensa di 1.000 dollari. Nelle prime ore del 12 novembre, lo strumento di etichettatura è stato sostituito con un breve script che non può utilizzare altri strumenti.

Tuttavia, Depi ha eseguito l'attacco completo sulla propria copia di prova, mentre il vero helper utilizzava una modalità di sola lettura più restrittiva da maggio. Depi non segnala alcun aggiornamento dannoso che abbia raggiunto gli utenti. Il nostro rapporto illustra ogni fase dell'attacco. Qualsiasi strumento di intelligenza artificiale in grado di leggere testi scritti da sconosciuti dovrebbe essere considerato come una possibile porta d'accesso.

Il Giappone prevede sanzioni per l'intelligenza artificiale più potente

Zero. Questo è il numero di sanzioni previste dalla legge sull'intelligenza artificiale approvata dal Giappone nel maggio 2025. I consulenti del governo auspicano sanzioni per i sistemi più potenti. I documenti relativi alla riunione dell'11 novembre sono pubblicati online.

Vuoi che l'intelligenza artificiale ti faccia risparmiare ore a settimana? La nostra guida gratuita ti mostra come fare.Scarica la guida gratuita →

Il piano si articola in quattro fasi. Le aziende devono adottare misure di sicurezza e segnalare i rischi, il governo può raccomandare formalmente delle modifiche e, in caso di insuccesso, può emettere un provvedimento vincolante con relative sanzioni. Le norme si applicherebbero solo all'intelligenza artificiale che supera un certo livello di prestazioni e solo a specifici rischi gravi, come attacchi informatici e attacchi con armi chimiche, biologiche o nucleari. L'agenzia di stampa Kyodo riporta che una bozza del piano dovrebbe essere presentata entro la fine dell'anno.

Il nostro articolo illustra dettagliatamente i quattro passaggi. Finora il Giappone si è affidato a linee guida volontarie.

Quattro aziende di IA accettano test indipendenti sulla sicurezza dei bambini

Otto milioni di euro. Questa è la somma che i promotori di una nuova carta affermano di voler investire nella ricerca sull'intelligenza artificiale e lo sviluppo infantile. OpenAI, Anthropic, Microsoft e Black Forest Labs l'hanno appoggiata al Forum per la Pace di Parigi. Il testo integrale della carta è stato pubblicato il 10 novembre.

I suoi dieci principi includono limiti alla raccolta di dati sui minori e verifiche dell'età che non si basano esclusivamente sulla data di nascita digitata. La ricerca sarà condotta da esperti indipendenti e l'azienda che la finanzia non potrà bloccare o ritardare i risultati. OpenAI afferma di aver stanziato 2 milioni di dollari. L'adesione alla carta è volontaria e Google, Meta e xAI non figurano tra le aziende che l'hanno sottoscritta.

Il presidente francese Emmanuel Macron ha affermato che nessuna intelligenza artificiale dovrebbe raggiungere i bambini prima di essere stata testata, valutata e approvata, ma la Carta non prevede alcun processo di approvazione. Abbiamo esaminato le promesse fatte dalle aziende. La pubblicazione dei risultati dei test, positivi o negativi che siano, sarebbe di maggiore aiuto a genitori e scuole rispetto a qualsiasi promessa.

United Airlines vieta agli assistenti IA di prenotare voli

Un adulto su sette. Secondo un sondaggio condotto da Oxford in nove paesi, questa è la percentuale di coloro che hanno dichiarato di aver utilizzato un assistente basato sull'intelligenza artificiale per un'attività reale nella settimana precedente. Dall'11 novembre, prenotare un volo United Airlines non può più essere considerata una di queste attività. La compagnia aerea ha annunciato le nuove regole mercoledì.

Gli assistenti IA di altre aziende non potranno più effettuare ricerche, prenotare, modificare prenotazioni o utilizzare miglia frequent flyer sul sito web o sull'app della compagnia aerea. Le norme si applicano anche alle agenzie di viaggio. La compagnia aerea cita il rischio per i dati personali e gli acquisti indesiderati, nonché una normativa statunitense che impone a una persona di confermare che i propri bagagli non contengano articoli proibiti. «A dire il vero, non voglio creare un altro intermediario», ha dichiarato l'amministratore delegato Scott Kirby durante un evento il 10 novembre.

Il nostro articolo spiega quali cambiamenti riguardano i viaggiatori. Un assistente basato sull'intelligenza artificiale può aiutarti a scegliere un volo, ma dovrai comunque acquistare il biglietto personalmente.

Per chiudere

Giovedì si è discusso di chi stabilisce i limiti dell'intelligenza artificiale. Le organizzazioni non profit si sono rivolte a un tribunale, il Giappone si è appellato alla legge, quattro aziende hanno firmato una carta volontaria e una compagnia aerea ha semplicemente bloccato gli assistenti virtuali basati sull'IA. E l'attacco allo strumento di programmazione ha dimostrato che il punto debole può essere anche una singola segnalazione di bug.

Ci vediamo domani.