Trump-tilhengere har blitt tatt i å lage og spre AI-genererte bilder som feilaktig fremstiller ham sammen med afroamerikanske velgere.
Denne taktikken, som først ble avdekket av BBCMålet var å skape en følelse av Trumps popularitet blant svarte velgere - en demografisk gruppe som spilte en avgjørende rolle i Joe Bidens seier i 2020.
Mark Kaye, en konservativ radiovert i Florida, var blant dem som skapte disse bildene, som avbildet Trump omgitt av svarte mennesker og delte dem på sosiale medier.
Kayes tilnærming til denne saken var ganske enkel. "Jeg er ikke fotojournalist. Jeg er en historieforteller", forklarte han.
Kaye gikk ut på X for å forsvare seg, og uttalte: "Folkens! De falske nyhetene @BBC har beskyldt meg for å lede en "desinformasjonskampanje". Å, for en ironi. Det er som å kalle dem "skallet"!
Folkens! De falske nyhetene @BBC har beskyldt meg for å lede en "desinformasjonskampanje". Å, for en ironi. Det er som å kalle dem "skallet"!https://t.co/SagEkC6Hmp
- Mark Kaye (@markkayeshow) 4. mars 2024
Kommentatorene var stort sett uforstående, og en av dem skrev at Kaye har blitt "tatt med buksene nede".
Ikke overraskende vakte disse bildene etiske betenkeligheter, noe som fikk Cliff Albright, en av grunnleggerne av Black Voters Matter, til å reagere.
Albright kritiserte manipulasjonen og uttalte: "Det er dokumentert at det har vært gjort forsøk på å målrette desinformasjon mot svarte befolkningsgrupper igjen, særlig yngre svarte velgere."
Selv om det kan være fristende å anta at disse bildene lett kan avfeies som falske, fant BBC mange som trodde de var ekte. Bevisstheten om dype forfalskninger er fortsatt ikke kvantifisert.
Kritikere fra hele det politiske spekteret hevder at denne taktikken ikke bare gir en feilaktig fremstilling av den politiske virkeligheten, men at den også bevisst retter seg mot sårbare velgergrupper.
Dype forfalskninger er tar valget med storm. Vi har sett storstilte kampanjer i blant annet valgene i Pakistan, Indonesia, Slovakia og Bangladesh. Vi har også observert omfattende falske kampanjer fra utenlandske statlige aktører med sikte på å manipulere stemmegivning.
Nå rettes oppmerksomheten mot det amerikanske valget, som allerede har vært et testområde for deep fakes. Det kommer til å bli enda varmere når vi nærmer oss valgdagen.
AI-botassistenten "Jennifer
Peter Dixon, en demokratisk kongresskandidat fra California, brukte en AI-bot ved navn "Jennifer" til å ringe velgere, noe som fikk hans eget team til å heve øyenbrynene.
Jennifers introduksjon til velgerne var klar og tydelig: "Hallo der. Jeg heter Jennifer og er en frivillig med kunstig intelligens." Dette er en del av Dixons bredere strategi for å nå ut til et bredt publikum og er ikke den første AI-robocalleren, den første var utplassert i Pennslyvania i fjor.
Resultatene av å ta i bruk Jennifer var overraskende positive, og utfordret den opprinnelige skepsisen. Dixon ble selv overrasket over hvor godt det fungerte, og kommenterte publikums reaksjon: "Folk ble sjokkert over hvor god kapasiteten var."
Deep fake electioneering belyser hvor tveegget AIs rolle i moderne politiske kampanjer er.
Selv om kunstig intelligens tilbyr innovative verktøy for engasjement, byr den også på etiske utfordringer, særlig når den brukes til å fabrikkere eller manipulere politisk støtte.
Det har vist seg nesten umulig å trekke grenser for rettferdig bruk av kunstig intelligens i politiske scenarier. Amerikanske reguleringsmyndigheter har diskutert forbud mot diverse dypt falskt kampanjemateriell, men dette har ikke materialisert seg.
