I takt med att valkampanjerna drar igång i USA utreder delstatsåklagaren i New Hampshire en AI-relaterad incident med robotsamtal.
Det AI-genererade samtalet utgav sig för att vara president Joe Biden och hade för avsikt att avskräcka väljare från att delta i det kommande primärvalet.
Attorney General John Formella beskrev händelsen som en till synes olaglig handling som syftade till att störa och undertrycka valdeltagandet. Han betonade: "Väljarna bör helt bortse från innehållet i detta meddelande."
Samtalet, som distribuerades till flera väljare på söndagen, använde AI för att nära replikera president Bidens röst, och innehöll även hans vanliga fras "What a bunch of malarkey".
I meddelandet uppmanades lyssnarna felaktigt att "spara din röst till valet i november", och det påstods felaktigt att en röst i primärvalet skulle öka Donald Trumps chanser att vinna.
Detta är felaktigt, eftersom deltagande i primärvalet inte påverkar möjligheten att rösta i det allmänna valet.
Det är intressant att notera att president Biden inte bedriver någon kampanj i New Hampshire och inte heller står med på valsedeln i primärvalet. En write-in-kampanj till hans fördel pågår dock i delstaten.
Källan till dessa samtal är fortfarande okänd, men de presenterades falskeligen som att de kom från Kathy Sullivans personliga mobilnummer.
Sullivan, en tidigare ordförande för det demokratiska partiet i delstaten som är engagerad i den pro-Bidenska super-PAC:en Granite for America, kallade händelsen för "direkt valstörning" och ett tydligt försök att trakassera henne och andra väljare. Hon rapporterade"Det här samtalet länkar tillbaka till mitt personliga mobilnummer utan mitt tillstånd."
Julie Chavez Rodriguez, Bidens kampanjchef, svarade kraftfullt och uppgav att kampanjen överväger omedelbara ytterligare åtgärder.
Hon fördömde spridningen av desinformation i syfte att undertrycka röstningen och sade: "Att sprida desinformation för att undertrycka röstningen och avsiktligt undergräva fria och rättvisa val kommer inte att accepteras."
Denna incident belyser en växande oro för att använda generativ AI-teknik för desinformation om val. Hany Farid, en digital forensisk expert vid University of California, Berkeley, bekräftade inspelningen som en AI-fake av låg kvalitet. Han uttryckte oro för att AI ska användas som vapen i val, särskilt om mer effektiv teknik används.
Katie Dolan, taleskvinna för Dean Phillips, som kandiderar mot Biden i demokraternas primärval, förnekade all inblandning och betonade att sådana försök att avskräcka väljare är skamliga och djupt oroande.
Trump-kampanjen, som också var inblandad på grund av meddelandets karaktär, uppgav att de inte hade någon inblandning men avböjde att kommentera ytterligare.
Detta följer Pennsylvania kongresskandidat Shamaine Daniels användning av AI-förstärkta robocalls. Daniels har använt sig av en AI-robocaller vid namn Ashley, utvecklad av Civox i samarbete med Conversation Labs, för att på ett effektivt sätt nå ut till ett stort antal potentiella supportrar.
Ashley möjliggör tvåvägskonversationer så att väljarna kan ställa frågor om Daniels kampanj och politik.
Ilya Mouzykantskii, medgrundare av Civox, uppgav att Ashley är "betydligt billigare än mänskligt betalda telefonbankirer".
Att använda AI i valkampanjer är helt klart riskabelt, och det har förekommit flera exempel om när djupa förfalskningar kan ha manipulerat människors beteende.
