Et nyligt eksperiment viste, at mennesker kun kan identificere AI-genererede menneskeansigter korrekt i 48,2% af tilfældene.
Den undersøgelse involverede 315 deltagere, der skulle skelne mellem ægte og AI-genererede ansigter. Ansigterne blev syntetiseret ved hjælp af StyleGAN2, en topmoderne motor, der er i stand til at skabe forskellige og realistiske menneskelige ligheder.
Resultaterne var både fascinerende og lidt foruroligende; deltagernes evne til at identificere AI-genererede ansigter lå på omkring 48,2% - dårligere end et møntkast.
Det erviser, at for den gennemsnitlige person er AI's dybe falske ansigter næsten ikke til at skelne fra rigtige menneskers.
Du kan selv se, hvor livagtige disse ansigter er, ved at besøge denne-person-eksisterer-ikke.comsom viser realistiske AI-genererede billeder af stort set hvem som helst, i hvilken som helst alder eller med hvilken som helst baggrund. Og dette værktøj er nu et par år gammelt.
Undersøgelsen gik også i dybden med, om visse racer og køn var mere udfordrende at klassificere korrekt.
Det blev observeret, at hvide ansigter, især mandlige, var de sværeste for deltagerne at identificere korrekt som ægte eller syntetiske.
Grunden til, at det sker, kan være, at der er en overrepræsentation af hvide ansigter i AI'ens træningsdatasæt, hvilket ifølge undersøgelsen fører til mere realistiske hvide syntetiske ansigter.
Endnu mere spændende var opdagelsen af, at deltagerne vurderede syntetiske ansigter som mere troværdige end ægte, om end med en beskeden margin. Det kunne tyde på en ubevidst præference for de gennemsnitlige funktioner, som AI har en tendens til at generere, og som ifølge undersøgelsen ifølge tidligere forskning opfattes som mere troværdige.
En lille stigning i sandsynligheden for, at nogen tolker et AI-billede som mere troværdigt end et ægte billede, er meget bekymrende, når det skaleres op til befolkningsniveau.
Hjernens fortolkning af AI-genererede ansigter er kompleks
A andet nyligt studie gav deltagerne til opgave at identificere, om et ansigt var ægte eller ej, mens de var i gang med en opgave, der skulle distrahere dem.
De kunne ikke bevidst skelne mellem de to, men tingene blev mere forvirrende, da deres hjerneaktivitet blev målt ved hjælp af et elektroencefalogram (EEG).
Cirka 170 millisekunder efter at have set ansigterne viste hjernens elektriske aktivitet forskelle, når deltagerne så på ægte og syntetiske billeder.
Det virkede som omet ubevidste sind "vidste" bedre end det bevidste sind, hvornår et billede kunne være AI-genereret. Men på trods af dette kunne deltagerne ikke bevidst mærke AI-ansigter med nogen robust grad af sikkerhed.
Vi kan spekulere i, at der er et bevidst fortolkningslag, hvor vi giver AI-genererede ansigter "tvivlen til gode", selv når vi er usikre.
Vi er trods alt indrettet til at identificere og stole på menneskelige ansigter, så det er usædvanligt svært at løsrive sig fra det og isolere uoverensstemmelser, der kan afsløre et AI-genereret billede.
Det er næsten, som om den første mistanke viger for en mere bekræftende bekræftelse af, at personen faktisk er ægte, når han eller hun ikke er det - en form for AI-initieret undskyldning.
Uanset hvad forklaringen på denne særhed er, er AI-genererede dybe forfalskninger en prioriteret risiko for teknologien, med en Seneste skandale der rammer en skole i New Jersey.
Dybt falske svindelnumre er en regelmæssig begivenhed, og der er en mærkbar bekymring for, at falsk AI-genereret indhold kunne påvirke stemmeadfærd.
