Onderzoekers ontdekten dat mensen over het algemeen slecht zijn in het herkennen welke gezichten echt zijn en welke door AI zijn gegenereerd. Hyperrealistische AI-gezichten worden vaker als echt beoordeeld dan echte menselijke gezichten.
De studie, geleid door de Australian National University, omvatte experimenten om te zien of mensen onderscheid konden maken tussen menselijke en AI-gegenereerde gezichten en welke kenmerken leidden tot de keuzes die mensen maakten.
Eerdere onderzoeken toonden aan dat deelnemers in ongeveer 50% van de gevallen een niet-blank AI-gezicht konden herkennen. In dit recentere onderzoek kreeg een groep van 124 volwassenen een mix van 100 AI en 100 echte witte gezichten te zien en werd hen gevraagd of ze echt of niet echt waren.
De AI-gegenereerde gezichten werden 65,9% van de tijd verkeerd geïdentificeerd als menselijk, terwijl menselijke gezichten slechts 51,1% van de tijd als menselijk werden beoordeeld.
Co-auteur Dr. Eva Krumhuber zei: "Kunstmatige intelligentie heeft een verbazingwekkend niveau van realisme bereikt, en hier zien we dat het soms zelfs echter kan lijken dan de werkelijkheid - hyperrealisme - zodat we heel gemakkelijk kunnen worden misleid om te denken dat een door AI gegenereerd gezicht echt is."
De deelnemers werd ook gevraagd hoe zeker ze waren van hun evaluatie. In een klassiek voorbeeld van het Dunning-Kruger effect waren de deelnemers die de meeste fouten maakten er het meest van overtuigd dat ze correct oordeelden.
Elizabeth Miller, co-auteur van het onderzoek en promovendus aan de Australian National University, zei: "Verontrustend is dat mensen die het vaakst dachten dat de AI-gezichten echt waren, er paradoxaal genoeg het meest van overtuigd waren dat hun oordelen juist waren."
Hoe zou het je zijn vergaan in de test? Welke zijn echt en welke zijn door AI gegenereerd? We laten je hieronder weten hoe je het hebt gedaan.
De onderzoekers concludeerden dat AI-gegenereerde gezichten niet alleen niet te onderscheiden zijn van menselijke gezichten, maar dat ze kenmerken hebben waardoor ze voor ons nog echter lijken. Ze noemden dit kenmerk van AI-gezichten hyperrealisme.
De onderzoekers gebruikten StyleGAN2, een generative adversarial network (GAN), om de AI-gezichten te genereren. StyleGAN2 werd getraind op een grote dataset van menselijke gezichten met ongeveer 69% blanke gezichten en 31% gezichten van alle andere rassen samen.
De onderzoekers concludeerden dat de oververtegenwoordiging van blanke gezichten het model in staat stelde om gezichten te genereren die het gemiddelde van al die kenmerken vertegenwoordigden op een manier waardoor ze er menselijker dan menselijk uitzagen.
Het artikel concludeerde dat deze vertekening in de trainingsdatasets belangrijke vragen oproept. "Als AI-gezichten er realistischer uitzien voor blanke gezichten dan voor andere groepen, zal het gebruik ervan de perceptie van ras verwarren met de perceptie van 'mens zijn'", aldus het rapport.
Als het idee van een AI-model van een menselijk gezicht een onnatuurlijk gemiddelde is van blanke gelaatstrekken, hoe zou het dan onderscheid kunnen maken tussen een echt mens van verschillende etniciteit en een AI-nep als dat gevraagd wordt?
Senior auteur Dr. Amy Dawel zei: "Als blanke AI-gezichten consequent als realistischer worden gezien, kan deze technologie ernstige gevolgen hebben voor gekleurde mensen doordat het online raciale vooroordelen versterkt."
Welke kenmerken leidden tot de fouten?
Er moeten een aantal specifieke kenmerken van een AI-gezicht zijn waardoor we denken dat het menselijker is dan een echt menselijk gezicht. In het tweede experiment werd 610 deelnemers gevraagd om de AI- en menselijke gezichten te beoordelen op een reeks van 14 kenmerken, waaronder aantrekkelijkheid, oogcontact en expressiviteit.
Door deze gegevens te combineren met die van het eerste experiment konden de onderzoekers vaststellen waarom mensen een gezicht eerder als AI-gegenereerd of als echt herkenden.
Ze ontdekten dat het hyperrealisme van AI-gezichten kan worden toegeschreven aan het feit dat ze "significant meer gemiddeld (minder onderscheidend), bekend en aantrekkelijk zijn en minder onthouden worden dan menselijke gezichten".
Het feit dat we zo snel accepteren dat een AI-gezicht echt is, laat zien hoe belangrijk het is om AI-hulpmiddelen voor nepdetectie te hebben.
De onderzoekers namen de gegevens van de door mensen waargenomen kenmerken en hoe deze correct en incorrect werden gebruikt bij het verkeerd identificeren van AI-gezichten en creëerden een machine-learning model om AI-gezichten te herkennen. Het model was in staat om het gezichtstype nauwkeurig te classificeren met een nauwkeurigheid van 94%.
Het is onwaarschijnlijk dat we een gezicht elke keer dat we er een online zien door een AI-gezichtschecker halen. En gezichtgeneratoren zullen alleen maar beter worden in het verslaan van de nepdetectors.
Dr. Dawel vatte samen wat onze beste optie is om dit tegen te gaan: "Mensen voorlichten over het waargenomen realisme van AI-gezichten kan helpen om het publiek sceptisch te maken over de beelden die ze online zien."
Als we onszelf eraan herinneren dat we heel slecht zijn in het herkennen van vervalsingen, laten we ons misschien minder snel voor de gek houden.
