La Commission fédérale des communications (FCC) a annoncé que l'utilisation de voix générées par l'intelligence artificielle dans les appels téléphoniques non sollicités adressés aux consommateurs est illégale.
L'absence de législation régissant l'IA dans les robocalls a été mise en évidence le mois dernier lorsqu'un groupe de travail de l'UE sur l'IA a été mis en place. robocall utilisant un clone de la voix du Président Biden a découragé les gens de voter aux primaires du New Hampshire.
Une enquête criminelle est en cours sur l'entreprise à l'origine de ce robocall, mais l'utilisation d'une voix générée par l'IA n'était pas illégale au moment où les appels ont été passés.
La décision de la FCC rend désormais illégale, avec effet immédiat, la technologie de clonage vocal utilisée dans les appels téléphoniques non sollicités destinés aux consommateurs.
"Des acteurs malveillants utilisent des voix générées par l'IA dans des appels téléphoniques non sollicités pour extorquer des membres vulnérables de la famille, imiter des célébrités et désinformer les électeurs. Nous mettons en garde les fraudeurs qui se cachent derrière ces robocalls", a déclaré Jessica Rosenworcel, présidente de la FCC.
Auparavant, les procureurs généraux des États pouvaient cibler le résultat d'un appel téléphonique, comme la fraude ou l'escroquerie qu'ils avaient l'intention de commettre. Désormais, l'utilisation de l'IA pour générer la voix de l'appel est illégale, quelle que soit l'intention de l'appel.
En novembre 2023, la FCC a entamé des investigations sur la manière dont l'IA pourrait être utilisée pour lutter contre les appels téléphoniques illégaux. L'objectif est d'utiliser l'IA pour détecter les appels illégaux avant qu'ils n'atteignent les consommateurs. La Federal Trade Commission (FTC) a également proposé une $25 000 récompense pour des solutions potentielles d'IA pour protéger les consommateurs contre les appels téléphoniques non sollicités.
La décision de la FCC a également imposé des limites à l'utilisation de voix générées par l'IA pour interagir par téléphone avec les consommateurs à la place d'agents humains. Elle stipule que "les appelants qui utilisent de telles technologies doivent obtenir le consentement préalable exprès de la personne appelée pour initier de tels appels, sauf en cas d'urgence ou d'exemption".
Les exemptions accordées par la FCC permettent aux services publics et aux hommes politiques de disposer d'une plus grande marge de manœuvre pour utiliser les appels téléphoniques automatiques à des fins non commerciales.
Maire Eric Adams a utilisé de manière controversée un clone de sa voix pour s'adresser aux habitants de la ville de New York dans plusieurs langues qu'il ne parlait pas. La décision de la FCC n'exclut pas l'utilisation de voix générées par l'IA dans ces cas, ce qui soulève encore des questions éthiques, voire juridiques.
