Aunque la proliferación de herramientas y tecnología de IA ya ha aportado numerosos beneficios tanto a particulares como a empresas, también es cierto que el aumento de la accesibilidad a las herramientas de IA ha tenido consecuencias perjudiciales en el nivel de desinformación que se difunde en el mundo.
La desinformación y la desinformación son la principal amenaza a la que se enfrentará el mundo en los próximos dos años, según el Foro Económico Mundial. Informe sobre riesgos mundiales (2024).
La desinformación sobre la IA es un problema mundial, pero ¿qué países luchan con más ahínco contra ella? En este estudio, nuestro equipo de DailyAI tomó los países líderes en inteligencia artificial (determinados por la capacidad de investigación) y analizó la frecuencia media y la profundidad del interés por las herramientas relacionadas con la falsificación profunda.
Principales conclusiones:
- Singapur, Australia, Finlandia y los Países Bajos ocupan los primeros puestos entre los países más interesados en la creación de falsificaciones profundas.
- China, aunque es el segundo país líder en inteligencia artificial, es el país menos interesado en la inteligencia artificial en general, según nuestras conclusiones.
Sam Jeans, experto en IA de DailyAI, comenta:
"El aumento vertiginoso de las falsificaciones profundas y los contenidos manipulados que se publican en línea ha sido, comprensiblemente, un enorme motivo de preocupación para los gobiernos de todo el mundo, ya que a nivel global tratamos de encontrar los límites correctos entre el aprovechamiento de las tecnologías nuevas y emergentes y la lucha contra lo que puede causar un daño sin precedentes.
Estos resultados demuestran que el interés por la manipulación falsa profunda es ciertamente más frecuente en unos países que en otros, pero con estos contenidos accesibles a escala mundial, será necesario un esfuerzo de grupo para garantizar que se minimiza el daño causado por los contenidos falsos profundos."
Australia, el país más interesado en los falsificadores
Al evaluar el interés de los 10 principales países en inteligencia artificial por los creadores de falsificaciones profundas y las búsquedas relacionadas, descubrimos que Australia destaca como el más interesado, con una tasa de aparición de 0,41 de cada 100.000 personas.
Australia también figura entre los tres países con más búsquedas de "deep fake porn maker", y el cuarto de "deep fake image maker". En la actualidad se considera que Australia es el sexto país líder en capacidades e investigación en inteligencia artificial.
A finales de 2023, Australia anunció que se presionar a las plataformas de medios sociales para reprimir las imágenes y vídeos falsos de gran calado, tras la creciente preocupación por el nivel de contenidos ofensivos y comentarios de odio que se difunden en la red.
Singapur, el país más fascinado por el porno falso
Nuestros análisis también muestran que Singapur ocupa el primer puesto en el ranking general de búsquedas de "deep fake porn makers", con una tasa de aparición de 0,50 por cada 100.000 personas. Además, el país es el segundo más interesado en creadores de vídeos falsos y el segundo más interesado en "creadores de desnudos falsos". Las búsquedas de este término tienen un índice de aparición de 0,17 por cada 100.000 personas, el mismo que en Países Bajos y Estados Unidos.
Este resultado es algo sorprendente si se tiene en cuenta que el interés de Singapur por los "creadores de falsificaciones profundas" en general es mucho menor, ya que el país se sitúa en la mitad de la clasificación para ese término de búsqueda.
Sin embargo, Singapur es también el segundo país más fascinado por el término de búsqueda "deep fake image maker", con una tasa de aparición de 0,17 por cada 100.000 personas. El país ocupa el segundo lugar después de Finlandia.
Singapur ocupa el tercer puesto en investigación y capacidades de inteligencia artificial. Uno de los casos más notables de falsificaciones profundas utilizadas en Singapur fue un vídeo sobre estafas de inversión que circuló por las redes sociales en 2023, utilizando al Viceprimer Ministro, Lawrence Wong, y una voz en off falsa que promocionaba la oportunidad de inversión fraudulenta.
Holanda registra casi el doble de búsquedas de creadores de vídeos falsos que cualquier otro país
Aunque los Países Bajos no ocupan un lugar destacado en otras búsquedas relacionadas con la falsificación profunda, el país tiene un interés innegable en la creación de contenidos de vídeo falsos.
El número de búsquedas de creadores de vídeos falsos fue de 0,96 por cada 100.000 habitantes, casi el doble que el segundo país, Singapur, con 0,50 búsquedas por cada 100.000 habitantes.
Los Países Bajos son otro país en el que falsificaciones profundas de políticos se han utilizado para engañar a la opinión pública. En las elecciones de noviembre de 2023, se denunció un alarmante número de falsas manipulaciones profundas que circulaban por las redes sociales de numerosos políticos destacados.
Finlandia es el país más interesado en imágenes falsas y desnudos profundos
Por último, Finlandia figura entre los países más interesados en las falsificaciones profundas, con el mayor número de búsquedas de creadores de desnudos e imágenes falsas profundas (0,18 por cada 100.000 personas para cada término de búsqueda respectivo).
Finlandia es actualmente el noveno país en investigación y capacidad de inteligencia artificial. A menudo se aplaude al país por su misión de poner la educación en primer plano de la batalla contra la desinformación y las noticias falsas, pero, como se demuestra aquí, eso no siempre disuade a la gente de interesarse por lo que pueden conseguir estas nuevas formas de IA.
EE.UU. muestra un notable desinterés por las falsificaciones profundas
Actualmente se considera que Estados Unidos es el país líder en investigación y capacidades de inteligencia artificial, por lo que cabe imaginar que el país también está a la vanguardia de cualquier interés en los creadores de falsificaciones profundas.
Sin embargo, nuestra clasificación muestra que el país está decididamente poco interesado en la creación de falsificaciones profundas en comparación con otros países de esta lista. Estados Unidos ocupa el segundo puesto, junto con los Países Bajos y Singapur, en las búsquedas de creadores de desnudos profundos falsos, pero se sitúa a medio camino en la clasificación de otros términos relacionados.
Sin embargo, muchas celebridades estadounidenses de alto nivel ya han sido objeto de vídeos e imágenes falsos publicados en Internet, y EE. elaboración de nuevas leyes para proteger a las personas contra el daño que pueden causar los contenidos falsos.
China, la menos interesada en los falsificadores
A pesar de ser considerado el segundo país líder en inteligencia artificial, sólo por detrás de Estados Unidos, China emerge de nuestra investigación como el país menos interesado en los creadores de falsificaciones profundas en todas las consultas de búsqueda.
China se sitúa en la parte baja de la clasificación de búsquedas de falsificadores profundos, incluidas las búsquedas pornográficas, lo que sugiere que las capacidades de los falsificadores profundos pueden no haber llegado aún a la corriente dominante del país.
Sin embargo, también es importante tener en cuenta que los datos de búsqueda pueden no ser 100% precisos para búsquedas específicas en China. La inteligencia artificial no es nueva en China. falsificaciones profundas de livestreamers en los titulares en 2023, a un aumento de las estafas financieras utilizando tecnología de falsificación profunda. Quizá sea más probable que no podamos acceder a datos de búsqueda completamente precisos de China sobre consultas relacionadas con la inteligencia artificial.
Cómo detectar una falsificación profunda
Para discernir la autenticidad de los contenidos digitales e identificar falsificaciones profundas, es importante saber a qué signos reveladores hay que prestar atención. Los siguientes indicadores pueden ayudarte a diferenciar entre contenidos auténticos y falsificaciones sofisticadas:
1. Inconsistencias en la iluminación y las sombras
Los deepfakes suelen tener dificultades para reproducir con precisión los matices de la iluminación natural y las sombras. Busca irregularidades en la forma en que la luz interactúa con el sujeto, como sombras desiguales o una iluminación incoherente en distintas partes de la escena.
2. Anomalías de los rasgos faciales
Presta mucha atención a las expresiones y rasgos faciales del sujeto del vídeo de imitación. Los deepfakes suelen mostrar anomalías como parpadeos poco naturales, movimientos extraños de los labios o expresiones faciales que no concuerdan con el tono emocional de la voz o la situación. A medida que la tecnología avance, estas anomalías serán cada vez más leves.
3. Desajustes audiovisuales
En las falsificaciones profundas, la sincronización entre los elementos sonoros y visuales puede estar desajustada. Compruebe si los movimientos de los labios del sujeto están perfectamente sincronizados con las palabras pronunciadas. Cualquier retraso o desajuste entre los elementos visuales y sonoros puede ser una señal de alarma de que estamos ante una falsificación profunda.
4. Textura y complexión de la piel
A veces, los deepfakes tienen dificultades para reproducir la textura de la piel humana de forma realista. Presta atención a cualquier signo de textura anormal de la piel o tonos de piel cambiantes que no parezcan naturales o consistentes a lo largo del vídeo.
5. Inconsistencias de fondo
Analiza el fondo en busca de cualquier signo de distorsión o fluctuación. La tecnología Deepfake podría centrarse en el sujeto y pasar por alto el fondo, dando lugar a anomalías en el entorno circundante.
6. Calidad y resolución
Tenga cuidado con los vídeos que se presentan como oficiales, pero que se presentan intencionadamente en baja resolución o calidad. A veces, los creadores de falsificaciones profundas pueden utilizar una calidad inferior para ocultar imperfecciones y anomalías que serían más perceptibles en alta definición.
Metodología
Para obtener estos resultados, nuestro equipo de DailyAI ha recurrido a la los 10 primeros países considerados a la vanguardia de la IA en 2023. A continuación, calculamos el volumen medio mensual de búsquedas de una serie de términos relacionados con los creadores de falsificaciones profundas y el número medio de búsquedas por cada 100 000 personas para compensar cualquier sesgo de los países con una población más numerosa.
