Mens valgkampanjene trappes opp over hele USA, etterforsker statsadvokatens kontor i New Hampshire en AI-relatert robocall-hendelse.
Denne AI-genererte samtalen utgav seg for å være president Joe Biden, og hadde til hensikt å fraråde velgere å delta i det kommende primærvalget.
Statsadvokat John Formella beskrev hendelsen som en tilsynelatende ulovlig handling som hadde som mål å forstyrre og undertrykke valgdeltakelsen. Han understreket: "Velgerne bør se helt bort fra innholdet i denne meldingen."
I samtalen, som ble distribuert til flere velgere på søndag, ble det brukt kunstig intelligens for å gjenskape president Bidens stemme, til og med med hans ofte brukte frase "What a bunch of malarkey".
Budskapet rådet lytterne feilaktig til å "spare stemmen til valget i november", og hevdet feilaktig at det å stemme i primærvalget ville øke Donald Trumps sjanse til å vinne.
Dette er feil, ettersom deltakelse i primærvalget ikke påvirker muligheten til å stemme ved stortingsvalget.
Det er interessant å merke seg at president Biden ikke driver valgkamp i New Hampshire og ikke står på stemmeseddelen i primærvalget. Det pågår imidlertid en skrivekampanje til fordel for ham i delstaten.
Kilden til disse samtalene er fortsatt ukjent, men de ble feilaktig presentert som å stamme fra Kathy Sullivans private mobilnummer.
Sullivan, en tidligere leder for det demokratiske partiet i delstaten som er involvert i det pro-Bidenske super-PAC Granite for America, kalte hendelsen "direkte valginnblanding" og et klart forsøk på å trakassere henne og andre velgere. Hun rapportert"Denne samtalen kobler tilbake til mitt personlige mobilnummer uten min tillatelse."
Julie Chavez Rodriguez, Bidens kampanjeleder, svarte med kraft at kampanjen vurderer å iverksette ytterligere tiltak umiddelbart.
Hun fordømte spredningen av desinformasjon med det formål å undertrykke stemmegivningen, og uttalte: "Å spre desinformasjon for å undertrykke stemmegivningen og bevisst undergrave frie og rettferdige valg vil ikke bli godtatt."
Denne hendelsen understreker en økende bekymring for bruk av generativ AI-teknologi til desinformasjon i forbindelse med valg. Hany Farid, ekspert på digital kriminalteknikk ved University of California, Berkeley, bekreftet at opptaket var en forfalskning av AI av lav kvalitet. Han uttrykte bekymring for at AI kan bli brukt som våpen i valg, særlig hvis mer effektiv teknologi tas i bruk.
Katie Dolan, talskvinne for representanten Dean Phillips, som stiller mot Biden i Demokratenes primærvalg, avviste enhver innblanding og understreket at slike forsøk på å avskrekke velgerne er skammelige og dypt urovekkende.
Trump-kampanjen, som også var innblandet på grunn av budskapets karakter, uttalte at de ikke var involvert, men avviste å kommentere saken ytterligere.
Dette skjer etter at kongresskandidaten fra Pennsylvania Shamaine Daniels' bruk av AI-forsterkede robocalls. Daniels har tatt i bruk en AI-robocaller ved navn Ashley, utviklet av Civox i samarbeid med Conversation Labs, for effektivt å nå ut til et stort antall potensielle støttespillere.
Ashley muliggjør toveis samtaler slik at velgerne kan stille spørsmål om Daniels' kampanje og politikk.
Ilya Mouzykantskii, medgrunnlegger av Civox, sa at Ashley er "betydelig rimeligere enn menneskebetalte telefonbankansatte".
Bruken av kunstig intelligens i valgkampanjer er åpenbart risikofylt, og det har vært flere eksempler om når dype forfalskninger kan ha manipulert folks atferd.
