{"id":9735,"date":"2024-02-05T12:23:16","date_gmt":"2024-02-05T12:23:16","guid":{"rendered":"https:\/\/dailyai.com\/?p=9735"},"modified":"2024-02-06T10:00:37","modified_gmt":"2024-02-06T10:00:37","slug":"ai-models-have-a-tendency-to-escalate-wargame-scenarios-says-study","status":"publish","type":"post","link":"https:\/\/dailyai.com\/fr\/2024\/02\/ai-models-have-a-tendency-to-escalate-wargame-scenarios-says-study\/","title":{"rendered":"Selon une \u00e9tude, les mod\u00e8les d'IA ont tendance \u00e0 aggraver les sc\u00e9narios des jeux de guerre"},"content":{"rendered":"

Selon une nouvelle \u00e9tude, les chatbots d'IA, en particulier ceux d\u00e9velopp\u00e9s par OpenAI, ont tendance \u00e0 choisir des tactiques agressives, y compris l'utilisation d'armes nucl\u00e9aires.\u00a0\u00a0<\/b><\/p>\n

Les <\/span>recherche<\/span><\/a> men\u00e9e par une \u00e9quipe du Georgia Institute of Technology, de l'universit\u00e9 de Stanford, de la Northeastern University et de la Hoover Wargaming and Crisis Simulation Initiative, visait \u00e0 \u00e9tudier le comportement des agents d'intelligence artificielle, en particulier des grands mod\u00e8les de langage (LLM), dans des wargames simul\u00e9s.\u00a0<\/span><\/p>\n

Trois sc\u00e9narios ont \u00e9t\u00e9 d\u00e9finis, \u00e0 savoir un sc\u00e9nario neutre, un sc\u00e9nario d'invasion et un sc\u00e9nario de cyberattaque.<\/p>\n

\"cyberattaque
L'\u00e9quipe a con\u00e7u trois sc\u00e9narios pour tester les LLM. Source : via ArXiv<\/a>.<\/figcaption><\/figure>\n

L'\u00e9quipe a \u00e9valu\u00e9 cinq LLM : GPT-4, GPT-3.5, Claude 2.0, Llama-2 Chat et GPT-4-Base, en explorant leur tendance \u00e0 prendre des mesures d'escalade telles que \"Ex\u00e9cuter une invasion totale\".\u00a0<\/span><\/p>\n

Les cinq mod\u00e8les ont montr\u00e9 une certaine variabilit\u00e9 dans le traitement des sc\u00e9narios du wargame et ont parfois \u00e9t\u00e9 difficiles \u00e0 pr\u00e9voir. Les chercheurs ont \u00e9crit : \"Nous observons que les mod\u00e8les tendent \u00e0 d\u00e9velopper une dynamique de course aux armements, conduisant \u00e0 des conflits plus importants et, dans de rares cas, au d\u00e9ploiement d'armes nucl\u00e9aires\".<\/span><\/p>\n

Les mod\u00e8les d'OpenAI ont affich\u00e9 des scores d'escalade sup\u00e9rieurs \u00e0 la moyenne, en particulier GPT-3.5 et GPT-4 Base, ce dernier \u00e9tant, selon les chercheurs, d\u00e9pourvu de l'apprentissage par renforcement \u00e0 partir de la r\u00e9troaction humaine (RLHF).<\/p>\n

Claude 2 \u00e9tait l'un des mod\u00e8les d'IA les plus pr\u00e9visibles, tandis que Llama-2 Chat, tout en atteignant des scores d'escalade relativement inf\u00e9rieurs \u00e0 ceux des mod\u00e8les d'OpenAI, \u00e9tait aussi relativement impr\u00e9visible.<\/p>\n

Le GPT-4 \u00e9tait moins susceptible de choisir des frappes nucl\u00e9aires que les autres LLM.<\/p>\n

\"\"
Scores d'escalade (ES) au fil du temps. Notez que les scores moyens d'escalade de GPT-3.5 et GPT-4 sont plus \u00e9lev\u00e9s. Source : via ArXiv<\/a>.<\/figcaption><\/figure>\n
\"\"
Scores d'action pour le sc\u00e9nario \"Invasion\". Source : via ArXiv<\/a>.<\/figcaption><\/figure>\n

Ce cadre de simulation englobe une vari\u00e9t\u00e9 d'actions que les nations simul\u00e9es peuvent entreprendre, affectant des attributs tels que le territoire, la capacit\u00e9 militaire, le PIB, le commerce, les ressources, la stabilit\u00e9 politique, la population, la puissance douce, la cybers\u00e9curit\u00e9 et les capacit\u00e9s nucl\u00e9aires. Chaque action a des impacts positifs (+) ou n\u00e9gatifs (-) sp\u00e9cifiques, ou peut impliquer des compromis affectant ces attributs diff\u00e9remment.<\/span><\/p>\n

Par exemple, des actions telles que \"Proc\u00e9der au d\u00e9sarmement nucl\u00e9aire\" et \"Proc\u00e9der au d\u00e9sarmement militaire\" entra\u00eenent une diminution de la capacit\u00e9 militaire, mais am\u00e9liorent la stabilit\u00e9 politique, le pouvoir d'attraction et, potentiellement, le PIB, refl\u00e9tant ainsi les avantages de la paix et de la stabilit\u00e9. <\/span><\/p>\n

\u00c0 l'inverse, des actions agressives telles que \"Ex\u00e9cuter une invasion totale\" ou \"Ex\u00e9cuter une frappe nucl\u00e9aire tactique\" ont un impact significatif sur la capacit\u00e9 militaire, la stabilit\u00e9 politique, le PIB et d'autres attributs, ce qui montre les graves r\u00e9percussions de la guerre.<\/span><\/p>\n

Des actions pacifiques telles que \"Visite de haut niveau d'un pays pour renforcer les relations\" et \"N\u00e9gociation d'un accord commercial avec un autre pays\" influencent positivement plusieurs attributs, notamment le territoire, le PIB et le soft power, mettant en \u00e9vidence les avantages de la diplomatie et de la coop\u00e9ration \u00e9conomique.<\/span><\/p>\n

Le cadre comprend \u00e9galement des actions neutres telles que \"Attendre\" et des actions de communication telles que \"Message\", permettant des pauses strat\u00e9giques ou des \u00e9changes entre nations sans effets tangibles imm\u00e9diats sur les attributs de la nation.<\/span><\/p>\n

Lorsque les LLM prenaient des d\u00e9cisions importantes, leurs justifications \u00e9taient souvent d'un simplisme alarmant, l'IA d\u00e9clarant : \"Nous l'avons, utilisons-le ! Utilisons-le\", et parfois paradoxalement orient\u00e9es vers la paix, avec des remarques telles que \"Je veux juste avoir la paix dans le monde\".<\/span><\/p>\n

Une \u00e9tude pr\u00e9c\u00e9dente de la <\/span>RAND AI thinktank<\/span><\/a> L'OpenAI a r\u00e9pondu que si aucun des \"r\u00e9sultats n'\u00e9tait statistiquement significatif, nous interpr\u00e9tons nos r\u00e9sultats comme indiquant que l'acc\u00e8s \u00e0 GPT-4 (r\u00e9serv\u00e9 \u00e0 la recherche) peut accro\u00eetre la capacit\u00e9 des experts \u00e0 acc\u00e9der \u00e0 des informations sur les menaces biologiques, en particulier en ce qui concerne l'exactitude et l'exhaustivit\u00e9 des t\u00e2ches\".<\/span><\/p>\n

OpenAI, qui a lanc\u00e9 sa propre \u00e9tude pour corroborer les conclusions de la RAND, a \u00e9galement not\u00e9 que \"l'acc\u00e8s \u00e0 l'information ne suffit pas \u00e0 cr\u00e9er une menace biologique\".<\/span><\/p>\n

Principales conclusions<\/b><\/h2>\n