En ny undersøgelse viser, at selv når folk er klar over, at de kan lytte til dyb falsk tale, har de stadig svært ved at identificere falske stemmer.
Det gælder både for engelsk- og mandarintalende, hvilket understreger, at dybe falske stemmer sandsynligvis er effektive på mange sprog.
Forskere fra University College London bad 500 mennesker om at identificere dyb falsk tale i flere lydklip. Nogle klip indeholdt en autentisk kvindestemme, der læste generiske sætninger på enten engelsk eller mandarin, mens andre var deep fakes produceret af generative AI'er trænet på kvindestemmer.
Den undersøgelse Deltagerne blev delt op i to grupper, der hver især blev udsat for en anden form for eksperiment.
En gruppe blev præsenteret for 20 stemmeprøver på deres modersmål og skulle afgøre, om klippene var ægte eller falske. Deltagerne identificerede korrekt de dybe forfalskninger og de autentiske stemmer cirka 73% af tiden for både de engelske og mandarinske stemmeprøver.
En anden gruppe fik udleveret 20 tilfældigt udvalgte par af lydklip. Hvert par indeholdt den samme sætning leveret af et menneske og den dybe forfalskning, og deltagerne fik til opgave at identificere forfalskningen. Dette øgede detektionsnøjagtigheden til 85,59%.
I det første eksperiment vil menneskers opdagelse af deep fakes i det virkelige liv sandsynligvis være dårligere, end resultaterne antyder, da folk ikke ville blive advaret om, at de måske hørte AI-genereret tale.
Omvendt har lytterne et binært valg i det andet eksperiment, hvilket giver dem en fordel.
Interessant nok var der relativt lille forskel på resultaterne for engelsk og mandarin.
Svindel med dyb falsk tale stiger i det virkelige liv
"Denne opsætning er ikke helt repræsentativ for scenarier i det virkelige liv", siger Mai. "Lytterne ville ikke få at vide på forhånd, om det, de lytter til, er ægte, og faktorer som talerens køn og alder kunne påvirke detektionsevnen."
Der er dog yderligere begrænsninger, da undersøgelsen ikke udfordrede lytterne til at bestemme dybe forfalskninger, der var designet til at lyde som nogen, de kender, såsom en søn, mor osv. Hvis svindlere gik efter nogen med en dyb forfalskning, ville de næsten helt sikkert klone en persons stemme. Det er relativt nemt, hvis nogen har uploadet lyd eller videoer af sig selv online, f.eks. til en video på sociale medier, en podcast, en radio- eller tv-udsendelse.
Det sker allerede, med en McAfee-undersøgelse der viser, at omkring 1 ud af 4 voksne er klar over, at der foregår svindel med falske stemmer.
AI-relateret svindel er også på vej stigning i Kinaog en analytiker forudsagde, at AI-understøttet svindel kan koste mennesker og økonomier dyrt. Der er mange skræmmende anekdoter fra folk, der allerede er blevet udsat for falske opkald, ofte i form af et panisk familiemedlem, der beder om penge til at redde dem ud af en vanskelig situation.
Denne undersøgelse viste, at falske stemmer "bevæger sig gennem den uhyggelige dal" og efterligner den naturlige lyd af menneskestemmer, men mangler de subtile nuancer, der fremkalder mistanke hos nogle lyttere. Selvfølgelig bliver AI-dybe falske stemmer hele tiden bedre.
Samlet set viser undersøgelsen, at den nuværende teknologi allerede er yderst kompetent, og forsøg på at forbedre personers evne til at opdage falske stemmer i undersøgelsen var stort set mislykkede.
Forfatterne fremhæver behovet for at udvikle kompetente AI-stemmedetektorer og uddanne befolkningen i, hvor sofistikerede dybe falske stemmer allerede er.
Fremtidig forskning i deep fakes, der replikerer stemmerne fra mennesker, som deltagerne i undersøgelsen kender, ville være indsigtsfuld.
Der er praktiske måder at identificere svindel med falsk tale på, f.eks. ved at etablere kodeord mellem familiemedlemmer eller bede dem, der ringer, om at beskrive et stykke personlig information, som de kender.
