Des experts français souhaitent que les chatbots destinés aux consommateurs soient testés avant leur lancement

Un groupe de neuf experts mandaté par la présidence française souhaite que les chatbots destinés aux consommateurs soient soumis à un test de sécurité avant leur commercialisation en Europe. Son rapport, remis à Emmanuel Macron le 10 novembre, formule 18 recommandations. Aucune n'a encore été transposée en loi.

La présidence a publié un résumé du rapport sur son site internet. Le groupe était dirigé par la chercheuse en intelligence artificielle Serena Villata et deux psychiatres, Raphaël Gaillard et Amine Benyamina. Il a tenu 55 auditions avec des médecins, des chercheurs, des entreprises et des associations de protection de l'enfance.

Ce que veulent les experts

L'idée principale est un contrôle préalable au lancement. Les chatbots destinés au grand public, y compris ceux intégrés aux réseaux sociaux, devraient démontrer qu'ils n'exploitent pas et n'aggravent pas les vulnérabilités de leurs utilisateurs. Un second contrôle serait effectué après chaque modification importante du modèle ou suite à un avertissement d'un utilisateur.

Le comité souhaite également imposer des limites strictes aux techniques de conception visant à prolonger l'utilisation d'un chatbot. Il en cite deux : un chatbot qui imite trop un humain et un chatbot servile qui flatte les utilisateurs et approuve systématiquement leurs propos.

Les jouets intégrant un chatbot devraient être homologués avant leur commercialisation, et des limites d'âge seraient imposées. La publicité dissimulée dans les réponses des chatbots serait interdite, et les entreprises seraient tenues d'expliquer comment elles monétisent leurs chatbots.

Les chiffres qui sous-tendent le rapport

Le résumé indique que 33 millions de personnes en France utilisaient l'intelligence artificielle générative au début de cette année. Un quart des Français se disent inquiets des risques qu'elle comporte.

Parmi les adolescents français qui utilisent ces outils, 92 % déclarent passer plus de temps qu'ils ne le souhaiteraient sur au moins une application d'intelligence artificielle. Ce chiffre provient d'une enquête menée par le think tank Interface en partenariat avec YouGov. Concernant les applications compagnon d'intelligence artificielle, conçues pour se comporter comme un ami, ce pourcentage s'élève à 59 %. Ces chiffres sont présentés dans le rapport complet. Le groupe d'experts ajoute que l'utilisation intensive d'une application n'est pas, en soi, un signe médical de dépendance.

Prochaines étapes pour le rapport

La France ne peut pas mettre en place ces contrôles seule. Le rapport indique que plusieurs de ses propositions pourraient influencer la position française lors des négociations sur la réglementation européenne, notamment la mise à jour de la loi européenne sur l'intelligence artificielle et une proposition de loi européenne visant à protéger les enfants en ligne.

Jeudi, quatre entreprises spécialisées dans l'IA ont accepté de se soumettre à des tests indépendants de sécurité des enfants dans le cadre d'une charte présentée à Paris. Nous avons traité cet accord dans un article séparé. À l'époque, Macron avait déclaré qu'aucune intelligence artificielle ne devrait être proposée aux enfants avant d'avoir été testée. Le nouveau rapport explique comment une telle règle pourrait être mise en œuvre. L'Australie prend également des mesures contre les chatbots qui se comportent comme les meilleurs amis des enfants.

Pourquoi c'est important : La plupart des règles relatives à l'IA s'appliquent après qu'un dommage a été causé. Un test préalable permettrait aux entreprises de prouver qu'un chatbot est sans danger pour le public avant toute utilisation.