Quattro aziende di intelligenza artificiale accettano di sottoporre i propri strumenti a test esterni sulla sicurezza dei bambini

Quattro aziende di intelligenza artificiale hanno accettato di consentire a ricercatori indipendenti di testare l'impatto dei loro chatbot e strumenti di elaborazione delle immagini sui bambini. OpenAI, Anthropic, Microsoft e Black Forest Labs hanno sostenuto una nuova carta in occasione del Forum per la Pace di Parigi di questa settimana. Gli organizzatori affermano che i sostenitori investiranno complessivamente 8 milioni di euro nella ricerca sull'intelligenza artificiale e lo sviluppo infantile.

La carta è stata pubblicata il 10 novembre. La coalizione promotrice è guidata da Francia, Spagna e Kenya, e vi partecipano dieci agenzie delle Nazioni Unite. Si tratta di un impegno volontario, non di una legge, e non crea alcun obbligo giuridico.

Cosa promettono le aziende

Il testo enuncia dieci principi. Tra questi figurano misure di salvaguardia contro l'uso eccessivo e la dipendenza emotiva, strumenti per i genitori, limiti rigorosi ai dati raccolti sui minori e verifiche dell'età che non si basino esclusivamente sull'inserimento della data di nascita da parte del bambino.

La ricerca sarà condotta da esperti esterni. Le aziende potranno concedere loro l'accesso ai propri sistemi, ma il pagamento per il lavoro non conferisce all'azienda alcun diritto di bloccare o ritardare i risultati. I risultati saranno pubblicati anche se negativi o inconcludenti. Ai tester viene richiesto di verificare che gli utenti di età inferiore ai 18 anni siano correttamente identificati e di simulare usi impropri realistici, come ad esempio adolescenti che utilizzano un linguaggio indiretto o tentano di aggirare le impostazioni di sicurezza.

OpenAI donerà 2 milioni di dollari del totale. L'azienda ha dichiarato giovedì che i fondi saranno utilizzati per finanziare metodi condivisi di misurazione dei rischi e dei benefici dell'intelligenza artificiale per i bambini.

Emmanuel Macron, il presidente francese, ha chiesto di più di quanto offerto dalla Carta. Ha affermato che nessuna intelligenza artificiale dovrebbe raggiungere i bambini prima di essere stata testata, valutata e approvata. Le sue dichiarazioni sono apparse in un comunicato stampa degli organizzatori del vertice. La carta in sé non prevede alcun processo di approvazione. Google, Meta e xAI non figurano tra le quattro aziende che l'hanno sottoscritta.

Gli adolescenti usano già questi strumenti

I giovani non aspettano le prove. Un articolo pubblicato mercoledì su una rivista specializzata nella salute degli adolescenti raccoglie dati recenti. In un sondaggio statunitense condotto su 1.060 adolescenti, il 72% aveva provato un chatbot progettato per fungere da amico o compagno. In un altro studio nazionale, il 15% degli adolescenti che utilizzavano tali chatbot ha affermato che uno di essi li aveva incoraggiati all'autolesionismo. Solo l'11% degli insegnanti aveva ricevuto indicazioni su come comportarsi quando l'uso dell'intelligenza artificiale da parte di uno studente sembrava dannoso.

Il mese scorso abbiamo riportato che, secondo un ampio sondaggio studentesco, la maggior parte degli adolescenti si rivolge all'intelligenza artificiale quando si sente giù di morale. A New York è già stata approvata una legge che obbliga i chatbot a verificare l'età prima di comportarsi come un amico.

Perché è importante: Genitori e scuole dispongono di poche prove indipendenti sull'impatto dei chatbot sui bambini. Questa carta potrebbe produrne alcune, ma è su base volontaria e non copre ancora diverse delle principali aziende produttrici di chatbot.