Forskerne fant ut at folk generelt er dårlige til å identifisere hvilke ansikter som er ekte og hvilke som er generert av kunstig intelligens. Hyperrealistiske AI-ansikter blir oftere vurdert som ekte enn faktiske menneskeansikter.
StudienI prosjektet, som ble ledet av Australian National University, ble det blant annet gjort eksperimenter for å se om folk kunne skille mellom menneskelige og AI-genererte ansikter, og hvilke trekk som førte til de valgene folk tok.
Tidligere studier har vist at deltakerne kunne gjenkjenne et ikke-hvitt AI-ansikt i rundt 50% av tilfellene. I denne nyere studien ble en gruppe på 124 voksne vist en blanding av 100 AI-ansikt og 100 ekte hvite ansikter og bedt om å identifisere om de var ekte eller ikke.
Den AI-genererte ansikter ble feilidentifisert som mennesker i 65,9% av tilfellene, mens menneskeansiktene ble bedømt som menneskelige i bare 51,1% av tilfellene.
Dr. Eva Krumhuber, som er medforfatter, sier: "Kunstig intelligens har nådd et forbløffende nivå av realisme, og her ser vi at den noen ganger til og med kan virke mer virkelig enn virkeligheten - hyperrealisme - slik at vi veldig lett kan bli lurt til å tro at et AI-generert ansikt er ekte."
Deltakerne ble også spurt om hvor sikre de var på sin egen vurdering. I et klassisk eksempel på Dunning-Kruger-effekten var det de deltakerne som gjorde flest feil, som var mest sikre på at de vurderte riktig.
Elizabeth Miller, medforfatter av studien og doktorgradskandidat ved Australian National University, sier: "Det er bekymringsfullt at de som oftest trodde at AI-ansiktene var ekte, paradoksalt nok var de som var mest sikre på at vurderingene deres var riktige."
Hvordan ville du ha klart deg i testen? Hvilke av disse er ekte og hvilke er AI-genererte? Vi forteller deg hvordan du gjorde det lenger ned.
Forskerne konkluderte med at AI-genererte ansikter ikke bare er umulig å skille fra menneskelige ansikter, men at de har trekk som får dem til å virke enda mer virkelige for oss. De kalte dette trekket ved AI-ansiktene for hyperrealisme.
Forskerne brukte StyleGAN2, et generativt adversarisk nettverk (GAN), til å generere AI-ansiktene. StyleGAN2 ble trent på et stort datasett med menneskeansikter, der rundt 69% var hvite og 31% for alle andre raser til sammen.
Forskerne konkluderte med at overrepresentasjonen av hvite ansikter gjorde det mulig for modellen å generere ansikter som representerte gjennomsnittet av alle disse trekkene på en måte som fikk dem til å se mer menneskelige ut enn menneskelige.
Artikkelen konkluderte med at denne skjevheten i treningsdatasettene reiser viktige spørsmål. "Hvis AI-ansiktene virker mer realistiske for hvite ansikter enn for andre grupper, vil bruken av dem forveksle oppfatninger av rase med oppfatninger av å være 'menneskelig'", heter det i artikkelen.
Hvis en AI-modells idé om et menneskeansikt er et unaturlig gjennomsnitt av hvite ansiktstrekk, hvordan vil den da kunne skille mellom et ekte menneske av annen etnisitet og en falsk AI hvis den blir bedt om å gjøre det?
Seniorforfatter Dr. Amy Dawel sa: "Hvis hvite AI-ansikter konsekvent oppfattes som mer realistiske, kan denne teknologien få alvorlige konsekvenser for fargede mennesker ved til slutt å forsterke rasistiske fordommer på nettet."
Hvilke funksjoner førte til feilene?
Det må være noen spesifikke trekk ved et AI-ansikt som får oss til å tro at det er mer menneskelig enn et ekte menneskeansikt. I det andre eksperimentet ble 610 deltakere bedt om å rangere AI-ansiktene og menneskeansiktene på en rekke 14 attributter, inkludert egenskaper som attraktivitet, øyekontakt og uttrykksfullhet.
Ved å kombinere disse dataene med dataene fra det første eksperimentet kunne forskerne finne ut hva som gjorde det mer sannsynlig at folk identifiserte et ansikt som AI-generert eller ekte.
De fant ut at hyperrealismen i AI-ansiktene kunne tilskrives at de var "betydelig mer gjennomsnittlige (mindre særegne), kjente og attraktive, og mindre minneverdige enn menneskeansikter".
Det faktum at vi er så raske til å akseptere at et AI-ansikt er ekte, viser hvor viktig det er å ha verktøy for å oppdage falske AI-ansikt.
Forskerne tok utgangspunkt i dataene fra de menneskelige attributtene og hvordan de ble brukt korrekt og feilaktig ved feilidentifisering av AI-ansikter, og laget en maskinlæringsmodell for å oppdage AI-ansikter. Modellen klarte å klassifisere ansiktstypen med en nøyaktighet på 94%.
Det er usannsynlig at vi kjører et ansikt gjennom en AI-ansiktskontroll hver gang vi ser et på nettet. Og ansiktsgeneratorer kommer bare til å bli bedre og bedre til å slå falske detektorer.
Dr. Dawel oppsummerte hva som er vårt beste alternativ i møte med dette: "Å opplyse folk om den opplevde realismen i AI-ansikter kan bidra til å gjøre publikum tilstrekkelig skeptiske til bildene de ser på nettet."
Hvis vi minner oss selv på at vi er veldig dårlige til å oppdage forfalskninger, er det kanskje mindre sannsynlig at vi lar oss lure av dem.
