Os investigadores descobriram que as pessoas são geralmente más a identificar quais os rostos que são reais e quais os que são gerados pela IA. Os rostos hiper-realistas da IA são mais frequentemente julgados como reais do que os rostos humanos reais.
O estudoO estudo, liderado pela Universidade Nacional Australiana, incluiu experiências para ver se as pessoas conseguiam distinguir entre rostos humanos e rostos gerados por IA e quais as características que levaram às escolhas que as pessoas fizeram.
Estudos anteriores mostraram que os participantes conseguiam detetar um rosto de IA não branco em cerca de 50% das vezes. Neste estudo mais recente, foi mostrada a um grupo de 124 adultos uma mistura de 100 rostos de IA e 100 rostos brancos reais e foi-lhes pedido que identificassem se eram reais ou não.
O Rostos gerados por IA foram erradamente identificadas como humanas 65,9% do tempo, enquanto as faces humanas foram julgadas como humanas apenas 51,1% do tempo.
A coautora, Dra. Eva Krumhuber, afirmou: "A inteligência artificial atingiu um nível de realismo surpreendente e aqui descobrimos que, por vezes, pode até parecer mais real do que a realidade - hiper-realismo - de modo que podemos ser facilmente levados a pensar que um rosto gerado pela IA é real".
Foi também perguntado aos participantes se tinham a certeza da sua avaliação. Num exemplo clássico do efeito Dunning-Kruger, os participantes que cometeram mais erros eram os mais confiantes de que estavam a fazer julgamentos correctos.
Elizabeth Miller, coautora do estudo e candidata a doutoramento na Universidade Nacional Australiana, afirmou: "É preocupante o facto de as pessoas que pensavam que os rostos da IA eram reais serem, paradoxalmente, as mais confiantes de que os seus julgamentos estavam correctos".
Como é que se teria saído no teste? Quais destes são reais e quais são gerados por IA? Mais abaixo, dizemos-lhe como se saiu.
Os investigadores concluíram que os rostos gerados por IA não são apenas indistinguíveis dos rostos humanos, mas têm características que os fazem parecer ainda mais reais para nós. Chamaram a esta caraterística dos rostos gerados por IA hiper-realismo.
Os investigadores utilizaram o StyleGAN2, uma rede adversária generativa (GAN), para gerar os rostos da IA. A StyleGAN2 foi treinada num grande conjunto de dados de rostos humanos, com cerca de 69% de brancos e 31% de todas as outras raças combinadas.
Os investigadores concluíram que a sobre-representação de rostos brancos permitiu ao modelo gerar rostos que representavam a média de todas essas características de uma forma que os fazia parecer mais humanos do que humanos.
O documento concluiu que este enviesamento nos conjuntos de dados de treino levanta questões importantes. "Se os rostos da IA parecerem de facto mais realistas para os rostos brancos do que para os de outros grupos, a sua utilização irá confundir as percepções de raça com as percepções de ser 'humano'", observou.
Se a ideia que um modelo de IA tem de um rosto humano é uma média não natural de características faciais brancas, como é que distingue entre um ser humano real de etnia diferente e um falso modelo de IA se lhe for pedido que o faça?
A autora sénior, Dra. Amy Dawel, disse: "Se os rostos brancos da IA forem consistentemente percebidos como mais realistas, esta tecnologia pode ter sérias implicações para as pessoas de cor, reforçando os preconceitos raciais online".
Que características estiveram na origem dos erros?
Deve haver algumas características específicas de um rosto de IA que nos fazem pensar que é mais humano do que um rosto humano real. Na segunda experiência, foi pedido a 610 participantes que classificassem os rostos humanos e de IA numa série de 14 atributos, incluindo características como atratividade, contacto visual e expressividade.
A combinação destes dados com os da primeira experiência permitiu aos investigadores identificar o que tornava mais provável que as pessoas identificassem um rosto como sendo gerado por IA ou real.
Descobriram que o hiper-realismo dos rostos da IA pode ser atribuído ao facto de serem "significativamente mais medianos (menos distintivos), familiares e atraentes e menos memoráveis do que os rostos humanos".
O facto de sermos tão rápidos a aceitar que um rosto de IA é real mostra como é importante ter ferramentas de deteção de falsificações de IA.
Os investigadores utilizaram os dados dos atributos percebidos pelos humanos e a forma como foram utilizados correcta e incorretamente na identificação incorrecta de rostos com IA e criaram um modelo de aprendizagem automática para identificar rostos com IA. O modelo foi capaz de classificar corretamente o tipo de rosto com uma precisão de 94%.
É pouco provável que passemos um rosto por um verificador de rostos com IA de cada vez que o vemos online. E os geradores de rostos vão ficar cada vez melhores a vencer os detectores de falsificações.
O Dr. Dawel resumiu qual é a nossa melhor opção face a esta situação: "Educar as pessoas sobre a perceção do realismo dos rostos com IA pode ajudar a tornar o público devidamente cético em relação às imagens que vêem online."
Se nos lembrarmos que somos muito maus a detetar falsificações, talvez sejamos menos susceptíveis de nos deixarmos enganar por elas.
