En ny undersøgelse viser, at mens mennesker har svært ved at skelne mellem menneskestemmer og AI-stemmer, reagerer vores hjerner forskelligt, når vi hører dem.
Som AI Kloning af stemme bliver mere avanceret, rejser det etiske og sikkerhedsmæssige spørgsmål, som mennesker ikke har været udsat for før.
Tilhører stemmen i den anden ende af telefonsamtalen et menneske, eller er den genereret af AI? Tror du, at du ville kunne se det?
Forskere fra Psykologisk Institut ved Universitetet i Oslo testede 43 personer for at se, om de kunne skelne mellem menneskestemmer og AI-genererede stemmer.
Deltagerne var lige dårlige til at identificere menneskestemmer korrekt (56% nøjagtighed) og AI-genererede stemmer (50,5% nøjagtighed).
Stemmens følelser påvirkede, hvor sandsynligt det var, at de kunne identificere den korrekt. Neutrale AI-stemmer blev identificeret med 74,9% nøjagtighed sammenlignet med kun 23% nøjagtighed for neutrale menneskestemmer.
Glade menneskestemmer blev identificeret korrekt 77% af gangene, mens glade AI-stemmer blev identificeret med en bekymrende lav nøjagtighed på 34,5%.
Så hvis vi hører en AI-genereret stemme, der lyder glad, er vi mere tilbøjelige til at antage, at det er et menneske.
Selv om vi bevidst kæmper for at identificere en AI-stemme korrekt, synes vores hjerne at opfange forskellene på et ubevidst niveau.
Forskerne udførte fMRI-scanninger af deltagernes hjerner, mens de lyttede til de forskellige stemmer. Scanningerne afslørede betydelige forskelle i hjerneaktivitet som reaktion på AI- og menneskestemmer.
Forskerne bemærkede, at "AI-stemmer aktiverede højre anterior midcingulate cortex, højre dorsolaterale præfrontale cortex og venstre thalamus, hvilket kan indikere øget årvågenhed og kognitiv regulering.
"I modsætning hertil fremkaldte menneskestemmer stærkere reaktioner i højre hippocampus samt regioner, der er forbundet med følelsesmæssig behandling og empati, såsom højre inferior frontal gyrus, anterior cingulate cortex og angular gyrus."
Vi har måske svært ved at vide, om en stemme er AI-genereret eller menneskelig, men vores hjerne ser ud til at kunne kende forskel. Den reagerer med øget årvågenhed på AI-stemmer og en følelse af samhørighed, når den lytter til en menneskestemme.
Deltagerne vurderede menneskestemmer som mere naturlige, troværdige og autentiske, især de glade stemmer og udtryk for glæde.
Doktorforsker Christine Skjegstad, som gennemførte undersøgelsen sammen med professor Sascha Frühholz, sagde: "Vi ved allerede, at AI-genererede stemmer er blevet så avancerede, at de næsten ikke kan skelnes fra rigtige menneskestemmer.
"Det er nu muligt at klone en persons stemme ud fra blot et par sekunders optagelse, og svindlere har brugt denne teknologi til at efterligne en elsket person i nød og narre ofre til at overføre penge.
"Mens eksperter i maskinlæring har udviklet teknologiske løsninger til at opdage AI-stemmer, ved man meget mindre om den menneskelige hjernes reaktion på disse stemmer."
Denne forskning viser, at vores hjerne fornemmer, at der er noget galt, når den behandler en syntetisk stemme, og bliver mere forsigtig.
Vi får måske brug for lidt mere hjælp end det, når AI-genererede stemmer bliver mere 'menneskelige'.
