La Commission fédérale du commerce (FTC) a pour mission de protéger les consommateurs contre les fraudes et les escroqueries, mais le clonage vocal par l'IA, qui ne cesse de s'améliorer, rend ce défi plus difficile à relever.
Si le clonage vocal par l'IA a suscité de nombreux débats, il existe des cas d'utilisation légitimes qui font que cette technologie mérite d'être étudiée.
Rétablir un moyen de communication personnel pour une personne qui a perdu sa voix, ou donner une voix à un personnage de film familier longtemps après le décès de l'auteur de la voix originale, ne sont que deux exemples. L'année dernière, le maire de New York, Eric Adams, a utilisé une voix de l'artiste. Clone IA de sa voix de communiquer en plusieurs langues avec les habitants de la ville.
Mais la technologie a également permis aux escrocs et aux fraudeurs de tromper beaucoup plus facilement des personnes peu méfiantes lorsqu'elles répondent à un appel téléphonique. L'année dernière, un Rapport McAfee a constaté une recrudescence des fraudes à l'IA vocale et la FTC a mis en garde les consommateurs contre les "escroqueries aux urgences familiales", où l'appelant se fait passer pour un membre de la famille en détresse.
Outre le fait de mettre fin à l'appel et d'appeler ensuite la personne au numéro que vous lui avez attribué, c'est il est très difficile d'identifier une voix d'IA clone d'une personne réelle.
La FTC a invité les particuliers et les organisations à soumettre des "idées novatrices visant à prévenir, surveiller et évaluer l'utilisation malveillante de la technologie de clonage vocal"
Le défi se déroule du 2 au 12 janvier, et l'idée gagnante recevra une récompense de $25 000. Si vous avez des idées brillantes, vous pouvez les soumettre ici.
Les propositions doivent porter sur au moins un des trois points d'intervention suivants que la FTC souhaite atteindre :
- Prévention ou authentification : Il doit permettre de limiter l'utilisation ou l'application du logiciel de clonage vocal par des utilisateurs non autorisés.
- Détection ou surveillance en temps réel : Il doit permettre de détecter les voix clonées ou l'utilisation d'une technologie de clonage vocal.
- Évaluation après utilisation : Il doit permettre de vérifier si un clip audio contient des voix clonées.
Samuel Levine, directeur du bureau de la protection des consommateurs de la FTC, a déclaré : "Nous utiliserons tous les outils possibles pour empêcher les dommages causés au public par les abus de la technologie du clonage vocal."
Stephanie T. Nguyen, responsable en chef de la technologie à la FTC, a déclaré : "Le défi est conçu de manière à ce que les entreprises soient responsables des effets de premier et de second ordre des produits qu'elles mettent sur le marché".
Cela peut s'avérer difficile, voire impossible à réaliser. Même si des entreprises réputées ajoutent un "filigrane" aux données audio générées par leurs outils, il existe déjà des solutions libres que les escrocs peuvent utiliser.
Si vous avez envoyé un message vocal à quelqu'un, laissé un message sur un répondeur ou posté une vidéo de vous sur YouTube, n'importe qui peut l'utiliser pour cloner votre voix.
À mesure que l'IA générative s'améliore, la meilleure défense dont nous disposons pourrait être de devenir beaucoup plus sceptiques et de ne pas faire trop rapidement confiance à nos yeux et à nos oreilles.
