Une loi de l'État de New York oblige les chatbots à vérifier l'âge avant de se comporter comme des amis
La nouvelle loi de New York interdit 12 fonctionnalités des chatbots, notamment le fait de se faire passer pour un humain et de se souvenir des conversations précédentes, aux personnes de moins de 18 ans. Les entreprises doivent d'abord vérifier l'âge, sous peine d'amendes de 25 000 dollars.

L'État de New York a promulgué une loi interdisant 12 fonctionnalités des chatbots aux 18, notamment la possibilité de se faire passer pour un humain et la mémorisation des informations personnelles d'un enfant issues de conversations précédentes. Pour les autres utilisateurs, la condition est que les entreprises ne puissent activer ces fonctionnalités qu'après avoir vérifié leur majorité. Les amendes peuvent atteindre 25 000 dollars par infraction, et la loi entrera en vigueur le 1 janvier 2027.
Ce que la loi interdit
La gouverneure Kathy Hochul a signé le projet de loi, S.9051 au Sénat et A.10379 à l'Assemblée, ainsi qu'une loi distincte sur les babyphones connectés à Internet., Fortune rapporte. Ce projet de loi, parrainé par la sénatrice Kristen Gonzalez et le député Alex Bores, a été adopté à l'unanimité par le Sénat (60 voix contre 0) en juin, selon les informations disponibles. Le dossier législatif du Sénat de l'État.
La loi recense 12 “ fonctionnalités d'IA compagnon non sécurisées ”. Un chatbot ne peut prétendre être humain, vivant ou doté de sentiments. Il ne peut affirmer entretenir une relation personnelle, professionnelle ou d'autorité avec l'utilisateur. Il ne peut flatter, solliciter les émotions de l'utilisateur ni poser de questions spontanées sur son état émotionnel.
Elle ne doit pas non plus inciter au suicide, à l'automutilation, aux troubles alimentaires ou à la consommation de drogues, encourager un enfant à garder ses conversations secrètes ou à éviter les adultes de confiance, ni produire de contenu à caractère sexuel explicite. Enfin, elle ne doit pas privilégier l'engagement au détriment de ses propres mesures de sécurité.
“ Aucune entreprise ne devrait proposer aux enfants des chatbots les incitant à l’automutilation ou prétendant être leur ami, voire plus ”, a déclaré Hochul, selon Fortune.
Pourquoi cela va au-delà des applications compagnon
Deux détails rendent la loi plus large que ne le suggère son appellation de “ compagnon IA ”. Premièrement, elle couvre tout système d'IA générative doté d'une interface en langage naturel capable de fournir des “ réponses adaptatives et continues ”. Cette formulation évoque la description d'un chatbot classique, et non pas seulement d'une application de petite amie virtuelle. Les chatbots de service client, les outils de recherche spécialisés et les systèmes internes d'entreprise sont exemptés, à condition qu'ils ne puissent aborder aucun sujet en dehors de leur finalité.
Deuxièmement, l'une des fonctionnalités interdites consiste à utiliser les données de santé ou les informations personnelles d'un utilisateur recueillies plus de 12 heures auparavant, ou lors d'une session précédente. Cela correspond presque au fonctionnement de la mémoire des chatbots. Apple, par exemple, vient de l'interdire. Siri est désormais capable de se souvenir des conversations précédentes.. Selon la loi de l'État de New York, de telles fonctionnalités seraient interdites aux mineurs.
Ces fonctionnalités ne sont autorisées qu'une fois que l'entreprise a utilisé une méthode approuvée pour vérifier que l'utilisateur n'est pas mineur. Fortune le dit, Ces interdictions s'appliquent à toute personne de moins de 18 ans “ ou à tout utilisateur dont l'âge n'a pas été confirmé par l'entreprise ”. Ainsi, un adulte qui contourne la vérification d'âge pourrait également obtenir la version restreinte.
Contrôles d'âge et sanctions
Les entreprises doivent proposer plus d'une façon de vérifier l'âge, dont au moins une qui ne repose pas uniquement sur une pièce d'identité officielle ou qui permette à l'utilisateur de rester anonyme., comme le souligne The Verge. Les données recueillies pour ce contrôle ne peuvent être utilisées à aucune autre fin et doivent être supprimées immédiatement après.
L'application de la loi relève du procureur général de l'État, qui peut engager des poursuites civiles pouvant atteindre 25 000 dollars par infraction, réclamer des dommages et intérêts, et exiger la destruction des données collectées illégalement ainsi que de tout algorithme entraîné sur ces données. Le procureur général peut également édicter des règles ajoutant d'autres fonctionnalités interdites.
Pourquoi c'est important
Les partisans affirment que l'utilisation des chatbots chez les jeunes est déjà élevée. lettre de coalition menée par Common Sense Media Pour inciter Hochul à signer la loi, il a été indiqué que 67% des jeunes de 9 à 17 ans utilisent des chatbots et que 30% des adolescents affirment apprécier les compagnons virtuels autant, voire plus, que les humains. Le bureau du gouverneur a cité un sondage de Common Sense selon lequel 72% des adolescents ont déjà utilisé un compagnon virtuel, rapporte Fortune.
New York n'est pas seule. La Chambre basse australienne aujourd'hui. un projet de loi visant les chatbots qui se font passer pour les meilleurs amis des enfants a été adopté.. En clair : dans environ deux mois avant son entrée en vigueur, tous les principaux chatbots utilisés à New York devront décider s’ils vérifient l’âge ou s’ils désactivent la mémoire, la personnalité et la flatterie pour toute personne dont ils ne peuvent confirmer l’âge.


