Les chercheurs ont constaté que les gens sont généralement incapables d'identifier les visages réels et ceux qui sont générés par l'IA. Les visages hyperréalistes générés par l'IA sont plus souvent jugés réels que les visages humains.
L'étudedirigée par l'université nationale australienne, comprenait des expériences visant à déterminer si les gens pouvaient faire la différence entre les visages humains et les visages générés par l'IA, et quelles caractéristiques conduisaient aux choix des gens.
Des études antérieures ont montré que les participants pouvaient repérer un visage d'IA non blanc dans environ 50% des cas. Dans cette étude plus récente, on a montré à un groupe de 124 adultes un mélange de 100 visages d'IA et de 100 vrais visages blancs et on leur a demandé d'identifier s'il s'agissait de visages réels ou non.
Les Visages générés par l'IA ont été mal identifiés comme humains dans 65,9% des cas, tandis que les visages humains n'ont été jugés humains que dans 51,1% des cas.
Eva Krumhuber, coauteur de l'étude, a déclaré : "L'intelligence artificielle a atteint un niveau de réalisme étonnant, et nous constatons ici qu'elle peut parfois sembler plus réelle que la réalité - hyperréalisme - de sorte que nous pouvons très facilement être amenés à penser qu'un visage généré par l'IA est réel".
Les participants ont également été interrogés sur le degré de certitude de leur évaluation. Dans un exemple classique de l'effet Dunning-Kruger, les participants qui ont fait le plus d'erreurs étaient les plus confiants dans la justesse de leur jugement.
Elizabeth Miller, co-auteur de l'étude et candidate au doctorat à l'Australian National University, a déclaré : "Il est inquiétant de constater que les personnes qui pensaient le plus souvent que les visages de l'IA étaient réels étaient paradoxalement les plus confiantes dans la justesse de leur jugement."
Comment vous en seriez-vous sorti ? Lesquels sont réels et lesquels sont générés par l'IA ? Nous vous tiendrons au courant de vos résultats plus bas.
Les chercheurs ont conclu que les visages générés par l'IA ne sont pas seulement impossibles à distinguer des visages humains, mais qu'ils présentent des caractéristiques qui les rendent encore plus réels à nos yeux. Ils ont appelé cette caractéristique des visages générés par l'IA l'hyperréalisme.
Les chercheurs ont utilisé StyleGAN2, un réseau accusatoire génératif (GAN), pour générer les visages de l'IA. StyleGAN2 a été entraîné sur un vaste ensemble de données de visages humains, dont environ 69% pour les Blancs et 31% pour toutes les autres races combinées.
Les chercheurs ont conclu que la surreprésentation des visages blancs permettait au modèle de générer des visages représentant la moyenne de toutes ces caractéristiques d'une manière qui les rendait plus humains qu'humains.
L'article conclut que ce biais dans les ensembles de données de formation soulève des questions importantes. Si les visages de l'IA semblent plus réalistes pour les visages blancs que pour les autres groupes, leur utilisation confondra les perceptions de la race avec les perceptions d'être "humain"", note l'article.
Si l'idée qu'un modèle d'IA se fait d'un visage humain est une moyenne non naturelle des traits du visage des Blancs, comment pourrait-il faire la distinction entre un véritable être humain d'origine ethnique différente et un faux modèle d'IA si on lui demandait de le faire ?
Amy Dawel, auteur principal de l'étude, a déclaré : "Si les visages blancs de l'IA sont systématiquement perçus comme plus réalistes, cette technologie pourrait avoir de graves conséquences pour les personnes de couleur en renforçant finalement les préjugés raciaux en ligne."
Quelles sont les caractéristiques qui ont conduit à ces erreurs ?
Il doit y avoir des caractéristiques spécifiques d'un visage d'IA qui nous font penser qu'il est plus humain qu'un vrai visage humain. Dans la seconde expérience, 610 participants ont été invités à évaluer les visages d'IA et les visages humains sur une série de 14 attributs, dont des caractéristiques telles que l'attractivité, le contact visuel et l'expressivité.
En combinant ces données avec celles de la première expérience, les chercheurs ont pu déterminer ce qui rendait les gens plus susceptibles d'identifier un visage comme étant généré par l'IA ou comme étant réel.
Ils ont constaté que l'hyperréalisme des visages de l'IA pouvait être attribué au fait qu'ils sont "significativement plus moyens (moins distinctifs), familiers et attrayants, et moins mémorables que les visages humains".
Le fait que nous soyons si prompts à accepter qu'un visage d'IA soit réel montre à quel point il est important de disposer d'outils de détection de faux dans l'IA.
Les chercheurs ont utilisé les données relatives aux attributs perçus par l'homme et à la manière dont ils étaient utilisés correctement et incorrectement lors de l'identification erronée de visages d'IA, et ont créé un modèle d'apprentissage automatique pour repérer les visages d'IA. Le modèle a été en mesure de classer avec précision le type de visage avec une exactitude de 94%.
Il est peu probable que nous soumettions un visage à un vérificateur d'IA chaque fois que nous en voyons un en ligne. Et les générateurs de visages ne feront que s'améliorer pour déjouer les détecteurs de faux.
Le Dr Dawel a résumé la meilleure option face à cette situation : "Éduquer les gens sur le réalisme perçu des visages d'IA pourrait aider à rendre le public raisonnablement sceptique quant aux images qu'il voit en ligne."
Si nous nous rappelons que nous sommes vraiment mauvais pour repérer les faux, nous serons peut-être moins enclins à nous laisser berner par eux.
