Terwijl de verkiezingscampagnes in de VS in volle gang zijn, onderzoekt de openbare aanklager in New Hampshire een AI-gerelateerd incident met robotoproepen.
Deze door AI gegenereerde oproep deed zich voor als president Joe Biden, met de bedoeling kiezers te ontmoedigen om deel te nemen aan de komende voorverkiezingen.
Procureur-generaal John Formella beschreef het incident als een schijnbaar illegale daad gericht op het verstoren en onderdrukken van de opkomst. Hij benadrukte: "Kiezers moeten de inhoud van dit bericht volledig negeren."
De oproep, die zondag onder verschillende kiezers werd verspreid, gebruikte AI om de stem van president Biden te imiteren en bevatte zelfs zijn veelgebruikte zin "What a bunch of malarkey".
Het bericht adviseerde luisteraars ten onrechte om "je stem te bewaren voor de verkiezingen in november", door ten onrechte te beweren dat stemmen in de voorverkiezing de kans op winst voor Donald Trump zou vergroten.
Dit is onjuist, omdat deelname aan de voorverkiezing geen invloed heeft op het vermogen om te stemmen bij de algemene verkiezingen.
Interessant is dat president Biden geen campagne voert in New Hampshire en niet op de voorverkiezingen staat. Er is echter een schrijfcampagne in zijn voordeel aan de gang in de staat.
De bron van deze telefoontjes is onbekend, maar ze werden valselijk voorgesteld als afkomstig van het persoonlijke mobiele nummer van Kathy Sullivan.
Sullivan, een voormalige voorzitter van de Democratische Partij van de staat die betrokken is bij het pro-Biden super-PAC Granite for America, noemde het incident "regelrechte verkiezingsbemoeienis" en een duidelijke poging om haar en andere kiezers lastig te vallen. Ze meldt, "Deze oproep linkt terug naar mijn persoonlijke mobiele telefoonnummer zonder mijn toestemming."
Julie Chavez Rodriguez, de campagnemanager van Biden, reageerde krachtig en verklaarde dat de campagne onmiddellijk aanvullende acties overweegt.
Ze veroordeelde de verspreiding van desinformatie om het stemmen te onderdrukken: "Het verspreiden van desinformatie om het stemmen te onderdrukken en vrije en eerlijke verkiezingen opzettelijk te ondermijnen, zal geen stand houden".
Dit incident benadrukt een groeiende bezorgdheid over het gebruik van generatieve AI-technologie voor verkiezingsdisinformatie. Hany Farid, een digitaal forensisch expert aan de Universiteit van Californië, Berkeley, bevestigde dat de opname een AI-nep van lage kwaliteit was. Hij uitte zijn bezorgdheid over het gebruik van AI als wapen bij verkiezingen, vooral als er effectievere technologie wordt ingezet.
Katie Dolan, een woordvoerster van Rep. Dean Phillips, die het in de Democratische voorverkiezing opneemt tegen Biden, ontkende elke betrokkenheid en benadrukte dat dergelijke pogingen om kiezers te ontmoedigen schandelijk en zeer verontrustend zijn.
De Trump-campagne, die er ook bij betrokken was vanwege de aard van het bericht, verklaarde dat ze niet betrokken waren, maar weigerde verder commentaar te geven.
Dit volgt op Pennsylvania congres kandidaat Shamaine Daniels' gebruik van AI-ondersteunde robotoproepen. Daniels heeft een AI robocaller genaamd Ashley, ontwikkeld door Civox in samenwerking met Conversation Labs, ingezet om op een efficiënte manier een groot aantal potentiële supporters te bereiken.
Ashley maakt tweerichtingsgesprekken mogelijk, zodat kiezers vragen kunnen stellen over de campagne en het beleid van Daniels.
Ilya Mouzykantskii, de medeoprichter van Civox, gaf aan dat Ashley "aanzienlijk goedkoper is dan door mensen betaalde telefoonbankiers".
Het gebruik van AI in verkiezingscampagnes is duidelijk riskant, en er zijn enkele voorbeelden van wanneer diepe vervalsingen het gedrag van mensen zouden kunnen hebben gemanipuleerd.
