Alors que les campagnes électorales s'intensifient aux États-Unis, le bureau du procureur général de l'État du New Hampshire enquête sur un incident de robocall lié à l'IA.
Cet appel généré par l'IA se faisait passer pour le président Joe Biden, dans le but de dissuader les électeurs de participer aux prochaines élections primaires.
Le procureur général John Formella a décrit l'incident comme un acte apparemment illégal visant à perturber et à supprimer la participation électorale. Il a insisté sur le fait que "les électeurs ne doivent absolument pas tenir compte du contenu de ce message".
L'appel, distribué à plusieurs électeurs dimanche, a utilisé l'intelligence artificielle pour reproduire fidèlement la voix du président Biden, reprenant même sa phrase habituelle : "Quel ramassis de sornettes".
Le message conseillait à tort aux auditeurs de "garder leur vote pour l'élection de novembre", affirmant à tort que le fait de voter aux primaires augmenterait les chances de Donald Trump de l'emporter.
C'est faux, car la participation aux primaires n'affecte pas la capacité de voter aux élections générales.
Il est intéressant de noter que le président Biden ne fait pas campagne dans le New Hampshire et ne figure pas sur le bulletin de vote des primaires. Toutefois, une campagne d'inscription en sa faveur est en cours dans l'État.
La source de ces appels reste inconnue, mais ils ont été faussement présentés comme provenant du numéro de téléphone portable personnel de Kathy Sullivan.
Mme Sullivan, ancienne présidente du parti démocrate de l'État, impliquée dans le super-PAC pro-Biden Granite for America, a qualifié l'incident d'"ingérence électorale pure et simple" et de tentative manifeste de harcèlement à son encontre et à l'encontre d'autres électeurs. Elle a déclaré rapportéCet appel renvoie à mon numéro de téléphone portable personnel sans mon autorisation.
Julie Chavez Rodriguez, directrice de campagne de M. Biden, a réagi avec force, déclarant que la campagne envisageait des actions supplémentaires immédiates.
Elle a condamné la propagation de la désinformation visant à supprimer le vote, affirmant que "la propagation de la désinformation visant à supprimer le vote et à compromettre délibérément des élections libres et équitables ne sera pas tolérée".
Cet incident met en lumière les préoccupations croissantes que suscite l'utilisation de la technologie générative de l'IA à des fins de désinformation électorale. Hany Farid, expert en criminalistique numérique à l'université de Californie à Berkeley, a confirmé que l'enregistrement était un faux de faible qualité. Il a fait part de ses inquiétudes quant à l'utilisation de l'IA comme arme électorale, en particulier si des technologies plus efficaces sont déployées.
En réponse, Katie Dolan, porte-parole du député Dean Phillips, qui se présente contre M. Biden dans les primaires démocrates, a désavoué toute implication et a souligné que de tels efforts pour décourager les électeurs étaient honteux et profondément inquiétants.
La campagne Trump, également mise en cause en raison de la nature du message, a déclaré qu'elle n'était pas impliquée mais a refusé de faire d'autres commentaires.
Cela fait suite à la candidature au congrès de Pennsylvanie L'utilisation par Shamaine Daniels de robocalls augmentés par l'IA. Daniels a utilisé un robot d'appel automatique nommé Ashley, développé par Civox en collaboration avec Conversation Labs, pour atteindre efficacement un grand nombre de sympathisants potentiels.
Ashley permet des conversations bilatérales afin que les électeurs puissent poser des questions sur la campagne et les politiques de Daniels.
Ilya Mouzykantskii, cofondateur de Civox, a indiqué qu'Ashley était "nettement moins chère que les agents téléphoniques rémunérés par des humains".
L'utilisation de l'IA dans les campagnes électorales est manifestement risquée. plusieurs exemples des cas où des contrefaçons profondes ont pu manipuler le comportement des gens.
