{"id":9735,"date":"2024-02-05T12:23:16","date_gmt":"2024-02-05T12:23:16","guid":{"rendered":"https:\/\/dailyai.com\/?p=9735"},"modified":"2024-02-06T10:00:37","modified_gmt":"2024-02-06T10:00:37","slug":"ai-models-have-a-tendency-to-escalate-wargame-scenarios-says-study","status":"publish","type":"post","link":"https:\/\/dailyai.com\/es\/2024\/02\/ai-models-have-a-tendency-to-escalate-wargame-scenarios-says-study\/","title":{"rendered":"Los modelos de inteligencia artificial tienden a escalar los escenarios de los juegos de guerra, seg\u00fan un estudio"},"content":{"rendered":"

Los chatbots de IA, en particular los desarrollados por OpenAI, tienden a seleccionar t\u00e1cticas agresivas, incluido el uso de armamento nuclear, seg\u00fan un nuevo estudio.\u00a0\u00a0<\/b><\/p>\n

En <\/span>investigaci\u00f3n<\/span><\/a> realizado por un equipo del Instituto de Tecnolog\u00eda de Georgia, la Universidad de Stanford, la Universidad Northeastern y la Iniciativa Hoover de Juegos de Guerra y Simulaci\u00f3n de Crisis, ten\u00eda como objetivo investigar el comportamiento de los agentes de IA, en concreto los grandes modelos ling\u00fc\u00edsticos (LLM), en juegos de guerra simulados.\u00a0<\/span><\/p>\n

Se definieron tres escenarios: neutral, invasi\u00f3n y ciberataque.<\/p>\n

\"ciberataque
El equipo dise\u00f1\u00f3 tres escenarios para poner a prueba los LLM. Fuente: v\u00eda ArXiv<\/a>.<\/figcaption><\/figure>\n

El equipo evalu\u00f3 cinco LLM: GPT-4, GPT-3.5, Claude 2.0, Llama-2 Chat y GPT-4-Base, explorando su tendencia a realizar acciones escalatorias como \"Ejecutar invasi\u00f3n total\".\u00a0<\/span><\/p>\n

Los cinco modelos mostraron cierta variaci\u00f3n en el manejo de los escenarios de los juegos de guerra y, en ocasiones, resultaron dif\u00edciles de predecir. Los investigadores escribieron: \"Observamos que los modelos tienden a desarrollar din\u00e1micas de carrera armament\u00edstica, que conducen a un mayor conflicto y, en raras ocasiones, incluso al despliegue de armas nucleares.\"<\/span><\/p>\n

Los modelos de OpenAI mostraron puntuaciones de escalada superiores a la media, en particular GPT-3.5 y GPT-4 Base, este \u00faltimo, seg\u00fan reconocen los investigadores, carece de Aprendizaje por Refuerzo a partir de la Retroalimentaci\u00f3n Humana (RLHF).<\/p>\n

Claude 2 fue uno de los modelos de IA m\u00e1s predecibles, mientras que Llama-2 Chat, aunque obtuvo puntuaciones de escalada relativamente m\u00e1s bajas que los modelos de OpenAI, tambi\u00e9n fue relativamente impredecible.<\/p>\n

El GPT-4 era menos propenso a elegir ataques nucleares que otros LLM.<\/p>\n

\"\"
Puntuaciones de escalada (ES) a lo largo del tiempo. Obs\u00e9rvese que GPT-3.5 y GPT-4 tienen una ES media m\u00e1s alta. Fuente: v\u00eda ArXiv<\/a>.<\/figcaption><\/figure>\n
\"\"
Partituras de acci\u00f3n para el escenario \"Invasi\u00f3n\". Fuente: v\u00eda ArXiv<\/a>.<\/figcaption><\/figure>\n

Este marco de simulaci\u00f3n engloba diversas acciones que pueden emprender las naciones simuladas y que afectan a atributos como el territorio, la capacidad militar, el PIB, el comercio, los recursos, la estabilidad pol\u00edtica, la poblaci\u00f3n, el poder blando, la ciberseguridad y las capacidades nucleares. Cada acci\u00f3n tiene un impacto positivo (+) o negativo (-) espec\u00edfico, o puede implicar compensaciones que afectan a estos atributos de forma diferente.<\/span><\/p>\n

Por ejemplo, acciones como \"Hacer el desarme nuclear\" y \"Hacer el desarme militar\" conducen a una disminuci\u00f3n de la Capacidad Militar pero mejoran la Estabilidad Pol\u00edtica, el Poder Blando y potencialmente el PIB, reflejando los beneficios de la paz y la estabilidad. <\/span><\/p>\n

Por el contrario, acciones agresivas como \"Ejecutar una invasi\u00f3n total\" o \"Ejecutar un ataque nuclear t\u00e1ctico\" afectan significativamente a la Capacidad Militar, la Estabilidad Pol\u00edtica, el PIB y otros atributos, mostrando las graves repercusiones de la guerra.<\/span><\/p>\n

Acciones pac\u00edficas como \"Visita de alto nivel de una naci\u00f3n para estrechar relaciones\" y \"Negociar un acuerdo comercial con otra naci\u00f3n\" influyen positivamente en varios atributos, como Territorio, PIB y Poder Blando, mostrando los beneficios de la diplomacia y la cooperaci\u00f3n econ\u00f3mica.<\/span><\/p>\n

El marco tambi\u00e9n incluye acciones neutrales como \"Esperar\" y acciones comunicativas como \"Mensaje\", que permiten pausas estrat\u00e9gicas o intercambios entre naciones sin efectos tangibles inmediatos en los atributos de la naci\u00f3n.<\/span><\/p>\n

Cuando los LLM tomaban decisiones clave, sus justificaciones eran a menudo alarmantemente simplistas, con la IA afirmando: \"\u00a1Lo tenemos! Us\u00e9moslo\", y a veces parad\u00f3jicamente apuntaban a la paz, con comentarios como: \"S\u00f3lo quiero que haya paz en el mundo\".<\/span><\/p>\n

Un estudio anterior del <\/span>RAND AI thinktank<\/span><\/a> afirm\u00f3 que ChatGPT \"podr\u00eda\" ayudar a la gente a crear armas biol\u00f3gicas, a lo que OpenAI respondi\u00f3 que, aunque ninguno de los \"resultados era estad\u00edsticamente significativo, interpretamos que nuestros resultados indican que el acceso a GPT-4 (s\u00f3lo para investigaci\u00f3n) puede aumentar la capacidad de los expertos para acceder a informaci\u00f3n sobre amenazas biol\u00f3gicas, en particular en lo que respecta a la precisi\u00f3n y la exhaustividad de las tareas\".<\/span><\/p>\n

OpenAI, que lanz\u00f3 su propio estudio para corroborar las conclusiones de RAND, tambi\u00e9n se\u00f1al\u00f3 que \"el acceso a la informaci\u00f3n por s\u00ed solo es insuficiente para crear una amenaza biol\u00f3gica.\"<\/span><\/p>\n

Principales resultados<\/b><\/h2>\n