En un discurso que invitó a la reflexión en la cumbre mundial de la ONU "AI for Good" celebrada en Ginebra, el célebre historiador y escritor israelí Yuval Noah Harari expresó su preocupación por la proliferación de "falsos humanos" en las redes sociales...
Harari advirtió de que, si no se controla, la creación y propagación de estos robots de inteligencia artificial, que se hacen pasar por personas reales para cultivar la participación, podría provocar un colapso de la confianza pública y poner en peligro los cimientos de la democracia.
Como contrapeso, Harari propuso introducir severas sanciones penales para quienes creen perfiles falsos, subrayando que la situación es urgente y que la investigación sobre la seguridad de la IA debe convertirse en una prioridad si esperamos mantener esta tecnología bajo control.
La rápida aparición de falsos humanos
Con los avances en la tecnología de IA, en particular los grandes modelos lingüísticos como ChatGPT, los robots de IA no sólo son capaces de amplificar el contenido generado por humanos, sino también de crear su propio contenido a escala.
A escala es la frase clave aquí...
Imaginemos una situación en la que las plataformas de las redes sociales se inundan de millones de robots de inteligencia artificial, todos ellos capaces de producir contenidos superiores a los de una persona normal.
Este escenario parece sacado directamente de la redacción de Black Mirror, pero es innegablemente probable a medida que la IA sigue evolucionando.
Con millones de robots de inteligencia artificial publicando junto a personas reales, llegaríamos a una situación en la que los contenidos "reales" y los basados en inteligencia artificial serían casi indistinguibles, lo que socavaría la cultura y el discurso global en su conjunto.
Esta pérdida de control sobre la plaza del pueblo también acabaría, en cierto modo, con la esencia misma de la democracia, la democracia de las ideas y del libre pensamiento.
Salvaguardar la democracia + La necesidad de consecuencias penales:
Volviendo a Harari, hizo una excelente observación al establecer un paralelismo con la falsificación de moneda, argumentando que al igual que los gobiernos tienen normas estrictas para proteger el sistema financiero del dinero falso, deberían aplicarse medidas similares para salvaguardar la confianza del público frente a los seres humanos falsos.
Al exigir responsabilidades penales a los culpables, se puede evitar que nuestras plataformas se vean desbordadas por perfiles falsos.
Invertir en seguridad de la IA + apostar por la investigación
Harari subrayó la importancia de destinar una inversión significativa a la seguridad de la IA. Sugirió que se obligue legalmente a las empresas a dedicar 20% de su gasto de inversión a investigar los riesgos potenciales y desarrollar estrategias para gestionarlos eficazmente.
Reconociendo los esfuerzos de OpenAI, creadora de ChatGPT, Harari mencionó su compromiso de destinar 20% de su potencia de cálculo a la seguridad de la IA, estableciendo un equipo de investigación dedicado a comprender y controlar la IA, evitando así que se vuelva rebelde.
Cooperación mundial
Harari continuó diciendo que la regulación efectiva de la inteligencia artificial y la recopilación de datos debe ser un esfuerzo mundial. Advirtió de que, sin cooperación internacional, el mundo corre el riesgo de fragmentarse en esferas de recopilación de datos controladas por unas pocas naciones y empresas selectas.
Para evitar un futuro distópico, Harari subrayó la necesidad de normas que den prioridad a la protección de los datos individuales, impidan su manipulación, aumenten la supervisión tanto de las empresas como de los gobiernos y eviten la concentración de todos los datos en una sola entidad.
Conclusión - Preservar la confianza pública
El auge de los bots de inteligencia artificial en las redes sociales supone una importante amenaza para las sociedades democráticas, y Yuval Noah Harari ha pedido consecuencias penales para los responsables, así como una mayor inversión en la seguridad de la inteligencia artificial.
Mediante la imposición de sanciones estrictas y la aplicación de normativas exhaustivas, las sociedades pueden proteger la confianza pública, preservar los valores democráticos y garantizar que los seres humanos sigan controlando la conversación pública. Ahora es el momento de actuar para garantizar un futuro más seguro y resistente para nuestro mundo digital en constante cambio.
