El Director de la NSA y del Mando Cibernético de EE.UU., General Paul Nakasone, anunció un nuevo centro de seguridad de la IA en un discurso pronunciado en el Club Nacional de Prensa.
A medida que la IA se integra más en la defensa, la seguridad nacional y la infraestructura civil, la NSA ve cada vez más la necesidad de abordar los riesgos asociados.
Un estudio reciente realizado por la NSA identificó la protección de los modelos de IA frente a robos y sabotajes como un reto importante para la seguridad nacional.
Nakasone declaró: "La IA tendrá cada vez más consecuencias para la seguridad nacional en cuestiones diplomáticas, tecnológicas y económicas para nuestro país y nuestros aliados y socios". Los aspectos "diplomáticos" y "tecnológicos" de la seguridad nacional están cobrando mayor importancia a medida que las potencias mundiales compiten en el escenario de la IA.
"Nuestros adversarios, que durante décadas han utilizado el robo y la explotación de nuestra propiedad intelectual para promover sus intereses, intentarán cooptar nuestros avances en IA y corromper nuestra aplicación de la misma", afirmó Nakasone sin mencionar explícitamente a China.
El nuevo centro de seguridad de IA estará bajo la supervisión operativa del Centro de Colaboración de Ciberseguridad de la NSA. Nakasone explicó que el nuevo centro se centrará en "promover la adopción segura de nuevas capacidades de IA en toda la empresa de seguridad nacional y la base de la industria de defensa."
AI: tanto la causa como la solución del problema
Los riesgos manifiestos de la IA como arma son algunas de las áreas claras y evidentes en las que se está centrando la NSA.
El Director de la NSA dijo que su departamento aún no había detectado esfuerzos por parte de China o Rusia para influir en las próximas elecciones estadounidenses, pero que, basándose en experiencias pasadas, el riesgo persistía.
A informe reciente destacó un repunte de los ataques a la ciberseguridad por parte de ciberactores chinos conocidos como BlackTech. A medida que la IA mejore, también lo harán la sofisticación y la escala de estos ataques.
Utilizar la IA para procesar grandes cantidades de datos y tomar decisiones informadas para identificar y mitigar estos riesgos es una perspectiva atractiva. Pero a medida que la IA se incorpora a las operaciones de organizaciones de seguridad nacional como la NSA, también las abre a nuevos riesgos.
Si no entendemos exactamente cómo un modelo de IA llega a una recomendación, ¿podemos confiar en él? Si el modelo es propenso a sesgos o alucinaciones, ¿podría el conjunto de datos subyacente estar corrompido por malos actores?
En CIA anunció que estaba desarrollando su propia versión AI de ChatGPT y DARPA está investigando cómo utilizar la IA para tomar decisiones en el campo de batalla. Imagínese lo que podría ocurrir si se pudiera influir en estas herramientas de IA para que dieran malos consejos.
El objetivo del centro de seguridad de la NSA es proteger a estas instituciones para evitar que los adversarios de Estados Unidos roben o saboteen su tecnología. El Director también subrayó que la IA no automatizaría las decisiones de seguridad nacional.
"La IA nos ayuda, pero nuestras decisiones las toman los humanos", afirma Nakasone. Pero cuanto mejor sea la IA, más confiarán los humanos en ella para tomar sus decisiones.
Y cuanto más depende la seguridad nacional de la IA, más vulnerable se vuelve la sociedad a un fallo o sabotaje de la IA.
