Gli esperti francesi chiedono che i chatbot per i consumatori vengano testati prima del lancio

Un gruppo di nove esperti istituito dalla presidenza francese vuole che i chatbot per i consumatori superino un test di sicurezza prima di poter essere venduti in Europa. Il rapporto, consegnato a Emmanuel Macron il 10 novembre, contiene 18 raccomandazioni. Nessuna di queste è ancora diventata legge.

La presidenza ha pubblicato un riassunto del rapporto sul proprio sito web. Il gruppo era guidato dalla ricercatrice di intelligenza artificiale Serena Villata e da due psichiatri, Raphaël Gaillard e Amine Benyamina. Ha tenuto 55 audizioni con medici, ricercatori, aziende e gruppi di tutela dell'infanzia.

Ciò che vogliono gli esperti

L'idea principale è quella di effettuare una verifica prima del lancio. I chatbot destinati al grande pubblico, compresi quelli integrati nei social network, dovrebbero dimostrare di non sfruttare o aggravare le debolezze degli utenti. Una seconda verifica verrebbe effettuata dopo ogni modifica sostanziale al modello o in seguito a una segnalazione da parte degli utenti.

Il comitato chiede inoltre limiti rigorosi agli stratagemmi di progettazione volti a indurre gli utenti a utilizzare un chatbot più a lungo. Ne cita due in particolare: un chatbot che si comporta in modo eccessivamente simile a un essere umano e un chatbot che adula gli utenti e concorda con tutto ciò che dicono.

I giocattoli con un chatbot integrato dovrebbero essere approvati prima di poter essere venduti, e dovrebbero essere imposti limiti di età. La pubblicità occulta nelle risposte dei chatbot sarebbe vietata e le aziende dovrebbero spiegare come guadagnano dai loro chatbot.

I numeri alla base del rapporto

Secondo il riepilogo, all'inizio dell'anno 33 milioni di persone in Francia utilizzavano l'intelligenza artificiale generativa. Un quarto dei francesi dichiara di essere preoccupato per i rischi ad essa associati.

Tra gli adolescenti francesi che utilizzano questi strumenti, il 92% afferma di trascorrere più tempo di quanto vorrebbe su almeno un'app basata sull'intelligenza artificiale. Il dato emerge da un sondaggio condotto dal think tank Interface in collaborazione con YouGov. Per le app di compagnia basate sull'IA, progettate per comportarsi come un amico, la percentuale sale al 59%. Questi dati sono riportati nel rapporto completo. Il gruppo di esperti aggiunge che l'uso intensivo di un'app non costituisce, di per sé, un segno medico di dipendenza.

Prossimi passi per il rapporto

La Francia non può introdurre questi controlli da sola. Il rapporto afferma che diverse delle sue proposte potrebbero influenzare la posizione francese nei negoziati sulle norme UE, tra cui un aggiornamento dell'EU AI Act e una proposta di legge UE per la protezione dei minori online.

Giovedì, quattro aziende di intelligenza artificiale hanno concordato di sottoporsi a test indipendenti sulla sicurezza dei bambini, nell'ambito di una carta presentata a Parigi. Abbiamo trattato tale accordo in un articolo separato. All'epoca, Macron affermò che nessuna intelligenza artificiale avrebbe dovuto raggiungere i bambini prima di essere stata testata. Il nuovo rapporto spiega come una regola del genere potrebbe funzionare. Anche l'Australia sta prendendo provvedimenti contro i chatbot che si spacciano per i migliori amici dei bambini.

Perché è importante: La maggior parte delle normative sull'IA si applica solo dopo che si è verificato un danno. Un test preliminare al lancio obbligherebbe le aziende a dimostrare che un chatbot è sicuro per il pubblico prima che venga utilizzato.