La IA se unió a temas como Ucrania, Putin y el conflicto en Oriente Próximo en el Foro Económico Mundial de Davos 2024.
El evento fue testigo de un debate evidentemente fragmentado sobre la tecnología, con políticos y funcionarios de la ONU mezclando sus puntos de vista con líderes de la industria como Sam Altman, CEO de OpenAI, y Satya Nadella, CEO de Microsoft.
Antes del foro, el Foro "Informe sobre riesgos mundiales 2024" situó la desinformación y la desinformación impulsadas por la IA en primera línea, superando notablemente al cambio climático, la guerra y los trastornos económicos.
Carolina Klint, Directora Comercial para Europa de Marsh McLennan, colaboradora del informe, dijo a CNBC del informe, "la IA puede crear modelos para influir en grandes poblaciones de votantes de una forma que no hemos visto antes. Será muy importante ver cómo se desarrolla esto".
Información errónea sobre IA y interferencia electoral fueron temas clave en el propio evento, con debates en los que se sopesaron los pros de la productividad y la eficiencia impulsadas por la IA frente a los contras de la desinformación, las falsificaciones profundas y otras consecuencias potencialmente catastróficas.
En general, el tono de este debate se centró más en los riesgos a corto plazo de la IA que en consecuencias más abstractas y a largo plazo. Con las importantes elecciones que se avecinan este año, existe una creciente ansiedad sobre cómo podría emplearse la IA para influir en el comportamiento electoral.
Los representantes de la industria de la IA se mostraron a veces cautelosamente optimistas, a veces optimistas y a veces escépticos sobre la capacidad de la industria para afrontar estos riesgos.
Echemos un vistazo a algunas ideas políticas clave sobre la IA de la semana:
António Guterres, Secretario General de la ONU: cautela ante la IA
António Guterres lanzó un mensaje contundente sobre los riesgos asociados a la rápida expansión de la IA, criticando especialmente el comportamiento de las grandes empresas tecnológicas.
Y advirtió: "Las poderosas empresas tecnológicas ya persiguen beneficios con un temerario desprecio por los derechos humanos, la privacidad personal y el impacto social."
Destacando las implicaciones más amplias de la IA, Guterres estableció un paralelismo entre los retos que plantea la IA y la crisis climática, señalando la falta de una estrategia global para abordar ambas cuestiones.
Guterres hizo hincapié en la urgente necesidad de una gobernanza colaborativa: "Necesitamos urgentemente que los gobiernos trabajen con las empresas tecnológicas en marcos de gestión de riesgos para el desarrollo actual de la IA; y en la supervisión y mitigación de daños futuros."
Ursula von der Leyen: una visión más optimista
Por su parte, Ursula von der Leyen, Presidenta de la Comisión Europea, ofreció una visión más optimista de la IA.
En su discurso, reconoció los riesgos potenciales, pero también hizo hincapié en las oportunidades que presenta la IA. Von der Leyen dijo: "La IA es también una oportunidad muy importante si se utiliza de forma responsable".
Von der Leyen también destacó iniciativas para ayudar a aprovechar el potencial de la IA, mencionando una propuesta para conectar las empresas europeas de IA con la potencia de cálculo de los superordenadores del continente.
Comparó esta iniciativa con el planteamiento de Microsoft con ChatGPT: "Proporcionaremos a las startups europeas y [a las pequeñas y medianas empresas] acceso a nuestros propios superordenadores de categoría mundial".
Enfrentamientos geopolíticos en torno a la IA
El primer ministro chino, Li Qiang, hizo un llamamiento a las empresas multinacionales para que inviertan en la economía china, que se enfrenta a dificultades debido a las prolongadas restricciones comerciales impuestas por Estados Unidos. Nvidia, por ejemplo, se ha bloqueado repetidamente de enviar sus GPU centradas en IA a China.
Li Qiang expresó una postura cautelosa hacia la IA durante su reciente discurso. Comentó conmovedoramente: "Los seres humanos debemos controlar a las máquinas en lugar de que las máquinas nos controlen a nosotros".
Haciendo hincapié en la necesidad de un desarrollo responsable, añadió: "La IA debe orientarse en una dirección que favorezca el progreso de la humanidad, por lo que debe haber una línea roja en el desarrollo de la IA, una línea roja que no debe cruzarse".
Li Qiang esbozó un plan de cinco puntos para mejorar la cooperación económica entre China y Occidente.
Hizo hincapié en la necesidad de una mayor coordinación macroeconómica, cadenas de suministro sin trabas centradas en China, una mayor colaboración en objetivos medioambientales y una cooperación tecnológica reforzada.
Aunque no mencionó directamente a Estados Unidos, aludió repetidamente de forma negativa a naciones no especificadas, refiriéndose simbólicamente a Estados Unidos.
Li trató de tranquilizar a los inversores mundiales, que habían empezado a recelar de China debido a su desaceleración económica y al aumento de la intervención gubernamental. Subrayó que invertir en el mercado chino era una oportunidad, no un riesgo, y afirmó que el Partido Comunista daba la bienvenida a los inversores extranjeros.
Tras el discurso de Li, el de Ursula von der Leyen en Davos se centró en la democracia y los valores occidentales. Mencionó la democracia y la libertad en múltiples ocasiones, presentando a Europa como líder mundial a la hora de abordar los retos globales y subrayando la importancia de la colaboración.
Sin embargo, las divisiones entre los líderes mundiales eran evidentes, ya que muchos miembros de la delegación estadounidense ya se habían marchado antes de las conversaciones con China, lo que demuestra una vez más los enfrentamientos simbólicos a los que nos tienen acostumbrados.
Preocupación creciente por la IA en las campañas electorales
Alexandra Reeve Givens, Directora General del Centro para la Democracia y la Tecnología, expresó su preocupación por el uso de la IA en las elecciones, citando situaciones pasadas en las que se utilizó la tecnología para influir en el comportamiento electoral.
Eso, en sí mismo, no es un concepto nuevo. La cuestión es, sin embargo, que la IA aporta un realismo sin precedentes a la propaganda falsa y ayuda a escalar cuestionables tácticas como las robo-llamadas.
"En ciclos electorales anteriores, hemos visto robocalls. Hemos visto campañas automatizadas de mensajes de texto que envían información incorrecta a los votantes sobre su lugar de votación, sobre si su urna está abierta o no, o mensajes manipulados diseñados para influir en su comportamiento", señaló Givens.
Argumentó que la IA generativa agravará estos problemas: "La IA generativa facilita la segmentación. [...] es más fácil que nunca idear esos mensajes a medida y personalizados".
Las empresas tecnológicas defendieron su capacidad para actuar ante falsificaciones profundas. El consejero delegado de OpenAI, Sam Altman, se refirió a estrategias recientes que su empresa puso en marcha antes de las elecciones estadounidenses, y Matthew Brittin, presidente de Negocios y Operaciones para EMEA de Google, habló del potencial de los grandes modelos lingüísticos (LLM) para luchar contra la desinformación.
"Queremos estar en una posición en la que cualquier cosa que sea producida por nuestra IA generativa pueda llevar una marca de agua tan invisible, incluso si se utiliza un fragmento de un vídeo o un trozo de una imagen, que sea detectable automáticamente", explicó Brittin, en referencia a SynthID, una herramienta de Google DeepMind que incrusta marcas de agua digitales en contenidos generados por IA.
Hasta la fecha, hay poca evidencia estas técnicas funcionan eficazmente a escala. Por ejemplo, un publicado por investigadores de la Universidad de California concluyó en octubre que "todas las marcas de agua invisibles son vulnerables".
Además, aunque los generadores comerciales de imágenes de IA como DALL-E empleen una marca de agua efectiva, las empresas no suelen estar obligadas a hacerlo.
Esto también tiene otra cara, ya que añadir marcas de agua de IA en imágenes auténticas significa que los malos actores pueden desacreditar imágenes reales como falsas, lo que se denomina "dividendo del mentiroso".
La IA seguirá ocupando un lugar destacado en el discurso político este año.
