Microsoft ha dado la voz de alarma sobre las nuevas amenazas tecnológicas procedentes de China y Corea del Norte que aprovechan la IA para llevar a cabo operaciones maliciosas dirigidas contra Estados Unidos.
El informe del Centro de Análisis de Amenazas de Microsoft (MTAC) se centra en la militarización de la IA para sembrar la discordia social y comprometer la seguridad nacional.
"En el último año, China ha perfeccionado una nueva capacidad para generar automáticamente imágenes que puede utilizar en operaciones de influencia destinadas a imitar a los votantes estadounidenses de todo el espectro político y crear controversia a lo largo de líneas raciales, económicas e ideológicas". afirma en su informe.
La empresa dio más detalles sobre la tecnología que hay detrás de estas operaciones: "Esta nueva capacidad está impulsada por inteligencia artificial que intenta crear contenidos de alta calidad que podrían hacerse virales en las redes sociales de EE.UU. y otras democracias".
Y continúa: "Lo más probable es que estas imágenes hayan sido creadas por algo llamado generadores de imágenes impulsados por difusión que utilizan IA no sólo para crear imágenes atractivas, sino también para aprender a mejorarlas con el tiempo."
Ya hemos visto muchas pruebas de ello en el ámbito nacional, como estafas virales. asociado con Elon Muskfotos falsas de explosiones en el Pentágonoy una misteriosa entrevista generada por la IA que supuestamente incluía un falsa versión profunda de la voz de Donald Trump antes de que los observadores dieran la vuelta y dijeran que era real.
Este último es un ejemplo de cómo las falsificaciones profundas también crean un "dividendo del mentiroso" en el que políticos y figuras públicas pueden refutar algo que empaña su reputación como "falso" cuando es genuino, lo que pone de relieve los múltiples riesgos de confundir realidad y falsificaciones.
Objetivos de la campaña
Según Microsoft, agentes chinos afiliados al Estado están aprovechando la IA para atacar cuestiones políticamente controvertidas en Estados Unidos, como la violencia armada.
Hoy temprano, Google estipuló que los anuncios políticos generados por IA deben indicarlo claramente si incluyen "contenido sintético que represente de forma inauténtica a personas o acontecimientos reales o de aspecto realista".
"Esta tecnología produce contenidos más llamativos que los torpes dibujos digitales y los collages de fotos de archivo utilizados en campañas anteriores", afirma el informe de Microsoft, que añade que la tecnología no hará sino mejorar.
Microsoft también destacó las amenazas de Corea del Norte, declarando: "Además de lo que hemos observado de China, Corea del Norte es una amenaza cibernética capaz, centrada en la recopilación de inteligencia y el robo de criptodivisas necesarias para generar ingresos para el Estado."
Evaluación continua de las amenazas
El nuevo informe del MTAC forma parte de una serie en curso destinada a evaluar las amenazas digitales procedentes de Asia Oriental.
Describe los sectores y regiones específicos de mayor riesgo y subraya la necesidad de una acción colectiva para orientar la gobernanza de la industria internacional de la IA, que se ha caldeado en las últimas semanas.
Mientras tanto, el Gobierno de EE.UU. sigue cortando el paso a China. adquisición de chips de gama alta diseñados para entrenar IAs, principalmente adquiridos a Nvidia.
China planea crear su propia industria nacional de fabricación de chips para reducir la dependencia del exterior para el hardware de IA.
Microsoft está dando la voz de alarma sobre la escalada de tensiones geopolíticas entre China y Estados Unidos, y la IA se encuentra en su intersección.
