Det amerikanske justitsministerium (DOJ) nævner risikoen for AI-disinformation og deepfakes som årsag til, at det ikke vil frigive lyden af Joe Bidens interview med den særlige advokat om hans håndtering af klassificerede dokumenter.
Justitsministeriet konkluderede, at der ikke var grundlag for at retsforfølge Biden, men udskriften af interviewet blev kærkomment brændstof for kritikere af Bidens mentale evner og evne til at stille op til endnu en periode.
Én ting er at læse en udskrift, noget helt andet er at høre lyden af den amerikanske præsident, der kæmper med at huske datoen for sin søns død eller glemmer, hvem Mexicos præsident er.
Justitsministeriet siger, at dets manglende evne til at bekæmpe AI-desinformation er grunden til, at det ikke vil frigive lyden.
"Tiden og fremskridtene inden for lyd, kunstig intelligens og 'deep fake'-teknologier forstærker kun bekymringen for ondsindet manipulation af lydfiler. Hvis lydoptagelsen frigives her, er det let at forudse, at den kan ændres uretmæssigt, og at den ændrede fil kan udgives for at være en autentisk optagelse og distribueres bredt," siger afdelingen. skrev i sin ansøgning til retten.
Justitsministeriets vicegeneraladvokat Bradley Weinsheimer sagde, at hvis de frigav lyden, ville der være en "betydelig risiko for, at ondsindede aktører kunne ændre optagelsen for (for eksempel) at indsætte ord, som præsident Biden ikke sagde, eller slette ord, som han sagde."
AI-genererede stemmekloner kræver kun et par sekunder af en persons stemme for at skabe overbevisende lyd. En klon af Joe Bidens stemme blev brugt i en Kampagne med falske robocalls i januar, hvilket afskrækkede vælgerne fra at stemme ved primærvalgene.
I ansøgningen blev det erkendt, at det allerede var muligt at skabe en klon af Bidens stemme.
Det står der. "Der findes ganske vist allerede andet råmateriale til at skabe en deepfake af præsident Bidens stemme, men frigivelsen af lydoptagelsen udgør en unik risiko: Hvis det bliver offentligt kendt, at lydoptagelsen er blevet frigivet, bliver det lettere for ondsindede aktører at udgive en ændret fil for at være den rigtige optagelse."
Executive Director for Oversight Project hos Heritage Foundation Mike Howell mener, at justitsministeriet bruger AI-deepfakes som en bekvem undskyldning.
"De vil slet ikke frigive denne lyd ... De bruger køkkenvasken, og de er helt ude af den, fordi de ikke har noget godt juridisk argument at støtte sig til", sagde Howell.
Senator Mark Warner, den demokratiske formand for Senatets efterretningsudvalg, erkendte risikoen for AI-manipulation, men sagde, at lyden skulle frigives med "vandmærkekomponenter", så manipulation kunne opdages.
Ironisk nok har nogle republikanere offentligt spekuleret i, at udskriften ikke afspejler interviewet korrekt.
AI-disinformation og deepfakes har haft en ubestridelig forstyrrende effekt Indflydelse på global politik.
Men den nemme måde at skabe falske billeder, lyd og video på har også givet en bekvem undskyldning for politikere, der befinder sig i en vanskelig situation.
