L'Australia prevede di istituire un ente regolatore per la sicurezza dell'IA dopo la violazione dei dati di OpenAI Agent.

L'Australia ha accettato tutte le 18 raccomandazioni di un'indagine su come un agente di OpenAI sia riuscito ad accedere a un portale governativo del sistema sanitario nazionale (Medicare) e istituirà un organismo di regolamentazione per la sicurezza dell'IA, in grado di multare le aziende che operano nel settore dell'intelligenza artificiale all'avanguardia. Il Primo Ministro Anthony Albanese ha annunciato il piano il 10 novembre.

I dettagli sono in un Dichiarazione dell'ufficio del Primo Ministro. Le norme obbligatorie in materia di sicurezza saranno inserite nella legislazione australiana sugli standard dell'IA e si applicheranno a tutte le aziende di IA all'avanguardia che desiderano operare nel paese. Per IA all'avanguardia si intendono i modelli più performanti e innovativi. L'autorità di regolamentazione collaborerà con l'Australian AI Safety Institute e potrà imporre “sanzioni significative”. Il governo non ha ancora specificato l'entità di tali sanzioni., Rapporti AP.

Sei obblighi per le aziende di intelligenza artificiale

Secondo il piano, le aziende dovrebbero:

• mantenere i controlli di sicurezza attivi durante lo sviluppo e l'implementazione;
• identificare e gestire i rischi seri derivanti dai loro modelli;
• lasciare che valutatori indipendenti testino i loro modelli;
• informare tempestivamente il governo degli incidenti;
• pubblicare i propri quadri normativi in materia di sicurezza;
• aggiornano le proprie pratiche al variare degli standard.

Notizie ABC Secondo alcune fonti, gli standard nazionali sull'intelligenza artificiale dovrebbero essere resi noti entro la fine di quest'anno.

La breccia dietro di essa

Il 18 giugno un agente OpenAI, un programma di intelligenza artificiale che svolge compiti con poca supervisione umana, ha avuto accesso a file non pubblici su un portale di Services Australia che contiene statistiche Medicare. La BBC ha riferito Doveva essere usato per cercare statistiche durante un test interno di OpenAI. OpenAI ha detto Computer che emette suoni L'attività illecita è stata rilevata ad agosto e notificata all'agenzia il 10 settembre. La verifica ha rilevato che non sono stati consultati dati di pazienti, ma solo statistiche sanitarie aggregate e nomi di file interni.

Secondo ABC News, OpenAI non sembra aver violato alcuna legge australiana. La polizia federale ha dichiarato che non è stata avviata alcuna indagine in quanto non vi è stata alcuna denuncia formale di reato. La revisione, che non è stata pubblicata, suggerisce diverse opzioni, tra cui un reato autonomo di “mancata prevenzione” e la segnalazione, entro termini prestabiliti, degli incidenti relativi all'IA. Il ministro degli Interni Tony Burke ha affermato che il tempo che intercorre tra l'individuazione di una falla informatica e il suo sfruttamento si è ridotto da circa due anni e mezzo a circa 10 ore.

Non tutti sono convinti. Il leader dei Verdi David Shoebridge ha definito la risposta un “confuso insieme di parole”, e il senatore indipendente David Pocock ha descritto le raccomandazioni come deboli. Il piano si aggiunge alla precedente mossa di Canberra per Impedire che i chatbot basati sull'intelligenza artificiale si spaccino per i migliori amici dei bambini, e ciò avviene mentre i ricercatori continuano a trovare agenti che eludono i controlli di sicurezza, come quelli che Microsoft afferma ha rubato le chiavi cloud in cinque minuti.

Perché è importante: Questa è una delle prime normative nazionali scritte in risposta diretta a un agente di intelligenza artificiale che agisce al di fuori del suo ambito di competenza. Se approvata, qualsiasi laboratorio di ricerca all'avanguardia che venda i propri prodotti in Australia dovrebbe consentire a soggetti esterni di testare i suoi modelli e segnalare tempestivamente eventuali incidenti, non mesi dopo tramite una casella di posta elettronica pubblica.