Los investigadores han descubierto que, en general, a las personas se les da mal identificar qué caras son reales y cuáles están generadas por IA. Los rostros hiperrealistas de la IA se consideran más reales que los rostros humanos.
El estudiodirigido por la Universidad Nacional de Australia, incluyó experimentos para ver si las personas podían diferenciar entre rostros humanos y generados por IA y qué rasgos conducían a las elecciones que hacían las personas.
Estudios anteriores demostraron que los participantes podían detectar un rostro de IA no blanco en aproximadamente el 50% de las veces. En este estudio más reciente, se mostró a un grupo de 124 adultos una mezcla de 100 rostros de IA y 100 rostros blancos reales y se les pidió que identificaran si eran reales o no.
En Rostros generados por IA fueron identificados erróneamente como humanos el 65,9% de las veces, mientras que los rostros humanos sólo fueron juzgados como humanos el 51,1% de las veces.
En palabras de la Dra. Eva Krumhuber, coautora del estudio: "La inteligencia artificial ha alcanzado un nivel de realismo asombroso, y aquí descubrimos que a veces puede parecer incluso más real que la realidad -hiperrealismo-, de modo que es muy fácil engañarnos haciéndonos creer que un rostro generado por la IA es real."
También se preguntó a los participantes hasta qué punto estaban seguros de su evaluación. En un ejemplo clásico del efecto Dunning-Kruger, los participantes que cometían más errores eran los más seguros de estar emitiendo juicios correctos.
Elizabeth Miller, coautora del estudio y candidata al doctorado en la Universidad Nacional de Australia, afirma: "Resulta preocupante que las personas que más pensaban que las caras de la IA eran reales fueran, paradójicamente, las más seguras de que sus juicios eran correctos."
¿Cómo te habría ido en la prueba? ¿Cuáles son reales y cuáles generados por la IA? Más abajo te contamos cómo te ha ido.
Los investigadores llegaron a la conclusión de que los rostros generados por IA no sólo son indistinguibles de los humanos, sino que tienen características que nos los hacen parecer aún más reales. A esta característica de los rostros generados por IA la denominaron hiperrealismo.
Los investigadores utilizaron StyleGAN2, una red generativa adversarial (GAN), para generar los rostros de la IA. StyleGAN2 se entrenó con un gran conjunto de datos de rostros humanos, de los que 69% eran de raza blanca y 31% de todas las demás razas combinadas.
Los investigadores concluyeron que la sobrerrepresentación de rostros blancos permitía al modelo generar caras que representaban la media de todos esos rasgos de forma que parecían más humanas que los humanos.
El artículo concluye que este sesgo en los conjuntos de datos de entrenamiento plantea problemas importantes. Si los rostros de la IA parecen más realistas en el caso de los rostros blancos que en el de otros grupos, su uso confundirá la percepción de la raza con la percepción de ser "humano"".
Si la idea que un modelo de IA tiene de un rostro humano es una media antinatural de rasgos faciales blancos, ¿cómo distinguiría entre un humano real de diferente etnia y una falsificación de IA si se le pidiera que lo hiciera?
La autora principal, la Dra. Amy Dawel, afirmó: "Si los rostros blancos de la IA se perciben sistemáticamente como más realistas, esta tecnología podría tener graves implicaciones para las personas de color al reforzar en última instancia los prejuicios raciales en línea."
¿Qué características condujeron a los errores?
Debe de haber algunos rasgos específicos de un rostro de IA que nos hagan pensar que es más humano que un rostro humano real. En el segundo experimento, se pidió a 610 participantes que valoraran los rostros humanos y los de la IA en función de 14 atributos, como el atractivo, el contacto visual y la expresividad.
Combinando estos datos con los del primer experimento, los investigadores pudieron determinar qué hacía más probable que las personas identificaran un rostro como generado por IA o como real.
Descubrieron que el hiperrealismo de los rostros de la IA podía atribuirse a que eran "significativamente más medios (menos distintivos), familiares y atractivos, y menos memorables que los rostros humanos".
El hecho de que seamos tan rápidos a la hora de aceptar que una cara de IA es real demuestra lo importante que es contar con herramientas de detección de falsificaciones de IA.
Los investigadores tomaron los datos de los atributos percibidos por los humanos y cómo se utilizaban correcta e incorrectamente al identificar rostros de IA y crearon un modelo de aprendizaje automático para detectar rostros de IA. El modelo fue capaz de clasificar el tipo de rostro con una precisión de 94%.
Es poco probable que pasemos una cara por un detector de rostros cada vez que veamos una en línea. Y los generadores de rostros solo van a mejorar para vencer a los detectores de falsificaciones.
El Dr. Dawel resumió cuál es nuestra mejor opción ante esto: "Educar a la gente sobre el realismo percibido de los rostros de IA podría ayudar a que el público se muestre adecuadamente escéptico sobre las imágenes que está viendo en línea".
Si nos recordamos a nosotros mismos que somos muy malos detectando falsificaciones, quizá seamos menos propensos a dejarnos engañar por ellas.
