Forskerne fandt ud af, at folk generelt er dårlige til at identificere, hvilke ansigter der er ægte, og hvilke der er genereret af AI. Hyperrealistiske AI-ansigter bedømmes oftere som ægte end faktiske menneskeansigter.
Undersøgelsensom blev ledet af Australian National University, omfattede eksperimenter for at se, om folk kunne skelne mellem menneskelige og AI-genererede ansigter, og hvilke træk der førte til de valg, folk traf.
Tidligere undersøgelser viste, at deltagerne kunne spotte et ikke-hvidt AI-ansigt i omkring 50% af tilfældene. I denne nyere undersøgelse blev en gruppe på 124 voksne vist en blanding af 100 AI-ansigter og 100 ægte hvide ansigter og bedt om at identificere, om de var ægte eller ej.
Den AI-genererede ansigter blev fejlagtigt identificeret som mennesker i 65,9% af tilfældene, mens menneskeansigter kun blev bedømt som mennesker i 51,1% af tilfældene.
Medforfatter Dr. Eva Krumhuber sagde: "Kunstig intelligens har nået et forbløffende niveau af realisme, og her finder vi, at den nogle gange endda kan virke mere virkelig end virkeligheden - hyperrealisme - så vi meget let kan blive narret til at tro, at et AI-genereret ansigt er ægte."
Deltagerne blev også spurgt, hvor sikre de var på deres vurdering. I et klassisk eksempel på Dunning-Kruger-effekten var de deltagere, der lavede flest fejl, de mest sikre på, at de vurderede korrekt.
Elizabeth Miller, medforfatter til undersøgelsen og ph.d.-studerende ved Australian National University, sagde: "Det er bekymrende, at de mennesker, der oftest troede, at AI-ansigterne var ægte, paradoksalt nok var de mest sikre på, at deres vurderinger var korrekte."
Hvordan ville du have klaret dig i testen? Hvilke af disse er ægte, og hvilke er AI-genererede? Vi fortæller dig, hvordan du klarede dig længere nede.
Forskerne konkluderede, at AI-genererede ansigter ikke bare er umulige at skelne fra menneskeansigter, men at de har træk, der får dem til at virke endnu mere virkelige for os. De kaldte dette træk ved AI-ansigter for hyperrealisme.
Forskerne brugte StyleGAN2, et generativt kontradiktorisk netværk (GAN), til at generere AI-ansigterne. StyleGAN2 blev trænet på et stort datasæt med menneskeansigter, hvor omkring 69% var hvide og 31% for alle andre racer tilsammen.
Forskerne konkluderede, at overrepræsentationen af hvide ansigter gjorde det muligt for modellen at generere ansigter, der repræsenterede gennemsnittet af alle disse træk på en måde, der fik dem til at se mere menneskelige end menneskelige ud.
Artiklen konkluderede, at denne skævhed i træningsdatasættene rejser vigtige spørgsmål. "Hvis AI-ansigter virker mere realistiske for hvide ansigter end for andre grupper, vil brugen af dem forveksle opfattelsen af race med opfattelsen af at være 'menneskelig'", hedder det.
Hvis en AI-models idé om et menneskeansigt er et unaturligt gennemsnit af hvide ansigtstræk, hvordan ville den så skelne mellem et rigtigt menneske af anden etnisk oprindelse og en AI-falskner, hvis den blev bedt om det?
Seniorforfatter Dr. Amy Dawel sagde: "Hvis hvide AI-ansigter konsekvent opfattes som mere realistiske, kan denne teknologi få alvorlige konsekvenser for farvede mennesker ved i sidste ende at forstærke racemæssige fordomme online."
Hvilke funktioner førte til fejlene?
Der må være nogle specifikke træk ved et AI-ansigt, som får os til at tro, at det er mere menneskeligt end et rigtigt menneskeansigt. I det andet eksperiment blev 610 deltagere bedt om at vurdere AI- og menneskeansigter på en række af 14 attributter, herunder træk som tiltrækningskraft, øjenkontakt og udtryksfuldhed.
Ved at kombinere disse data med dem fra det første eksperiment kunne forskerne identificere, hvad der gjorde folk mere tilbøjelige til at identificere et ansigt som værende AI-genereret eller ægte.
De fandt ud af, at AI-ansigternes hyperrealisme kunne tilskrives, at de var "betydeligt mere gennemsnitlige (mindre karakteristiske), velkendte og attraktive og mindre mindeværdige end menneskeansigter."
Det faktum, at vi er så hurtige til at acceptere, at et AI-ansigt er ægte, viser, hvor vigtigt det er at have værktøjer til at afsløre AI-falsknerier.
Forskerne tog data fra de menneskeligt opfattede egenskaber, og hvordan de blev brugt korrekt og forkert, når de fejlidentificerede AI-ansigter, og skabte en maskinlæringsmodel til at spotte AI-ansigter. Modellen var i stand til præcist at klassificere ansigtstypen med 94% nøjagtighed.
Det er usandsynligt, at vi kører et ansigt gennem en AI-ansigtskontrol, hver gang vi ser et online. Og ansigtsgeneratorer vil kun blive bedre til at slå de falske detektorer.
Dr. Dawel opsummerede, hvad vores bedste mulighed er i lyset af dette: "At uddanne folk om den opfattede realisme af AI-ansigter kan hjælpe med at gøre offentligheden passende skeptisk over for de billeder, de ser online."
Hvis vi minder os selv om, at vi er virkelig dårlige til at gennemskue forfalskninger, vil vi måske være mindre tilbøjelige til at lade os narre af dem.
