Den amerikanska valmyndigheten Federal Election Commission (FEC) har föreslagit en reglering av AI-drivet falskt innehåll i politiska annonser, och betonar deras potential för bedrägeri inför valet 2024.
I ett enhälligt beslut den 10 augustiFEC föreslog en förordning som är utformad för att övervaka användningen av AI-skapat djupt falskt innehåll i politiska annonser. Initiativet är främst inriktat på det kommande valet i USA 2024.
Därmed inleds en 60 dagar lång offentlig kommentarsperiod som ger intressenter, specialister och allmänheten en plattform för att dela med sig av sina synpunkter.
Detta förslag har sitt ursprung i en framställning som lämnats in av intresseorganisationen Public Citizen.
Robert Weissman, ordförande för Public Citizen, tog upp de potentiella utmaningar som "deep fakes" kan innebära för demokratiska system och hävdade att "deep fakes" förvränger sanningar och sprider vilseledande information.
Weissman sa: "FEC måste använda sin auktoritet för att förbjuda djupa förfalskningar eller riskera att vara delaktig i en AI-driven våg av bedräglig felaktig information och förstörelse av grundläggande normer för sanning och falskhet."
Det finns redan många exempel på AI-genererat innehåll som integrerats i politiska annonser och kampanjmaterial. Till exempel spred Floridas guvernör och republikanske kandidat Ron DeSantis falska bilder som föreställde den tidigare presidenten Donald Trump som kramade Dr. Anthony Fauci.
DeSantis attackannons använder falska AI-bilder av Trump som omfamnar Fauci https://t.co/PA74FsDea4 pic.twitter.com/2zsX01io58
- The Verge (@verge) 8 juni 2023
Under diskussionen i FEC framhöll Lisa Gilbert, Executive Vice President på Public Citizen, behovet av en tydligare förståelse för hur nuvarande lagar om "bedräglig förvrängning" kan tillämpas på AI deep fakes.
Framför allt stödde ledamöter från båda kamrarna i den amerikanska kongressen Public Citizens första framställning, vilket visar att det finns en gemensam vilja att skydda demokratiska system från AI-förfalskningar.
I juni förklarade American Association of Political Consultants att användningen av djupt falskt innehåll i politiska kampanjer var ett brott mot deras etiska kod. Ett betydligt mer kraftfullt ingripande skulle dock vara att vidta kraftfulla rättsliga åtgärder mot användningen av dem.
Den politiska användningen av djupa förfalskningar slog också till i Storbritannien, där premiärminister Rishi Sunak var avbildad som häller upp en undermålig pint öl - ett allvarligt misstag att göra som brittisk tjänsteman. I själva verket var Sunaks pint tillfredsställande.
Deep fakes har upprepade gånger lyfts fram som en av AI:s mest potenta och omedelbara risker, som skapar ett scenario där allmänheten inte enkelt kan skilja mellan lögn och verklighet.
