{"id":9735,"date":"2024-02-05T12:23:16","date_gmt":"2024-02-05T12:23:16","guid":{"rendered":"https:\/\/dailyai.com\/?p=9735"},"modified":"2024-02-06T10:00:37","modified_gmt":"2024-02-06T10:00:37","slug":"ai-models-have-a-tendency-to-escalate-wargame-scenarios-says-study","status":"publish","type":"post","link":"https:\/\/dailyai.com\/pt\/2024\/02\/ai-models-have-a-tendency-to-escalate-wargame-scenarios-says-study\/","title":{"rendered":"Os modelos de IA t\u00eam tend\u00eancia para agravar os cen\u00e1rios dos jogos de guerra, diz estudo"},"content":{"rendered":"

Os chatbots de IA, em particular os desenvolvidos pela OpenAI, tendem a selecionar t\u00e1cticas agressivas, incluindo a utiliza\u00e7\u00e3o de armamento nuclear, de acordo com um novo estudo.\u00a0\u00a0<\/b><\/p>\n

O <\/span>investiga\u00e7\u00e3o<\/span><\/a> conduzido por uma equipa do Georgia Institute of Technology, da Universidade de Stanford, da Northeastern University e da Hoover Wargaming and Crisis Simulation Initiative, teve como objetivo investigar o comportamento de agentes de IA, especificamente modelos de linguagem de grande dimens\u00e3o (LLM), em jogos de guerra simulados.\u00a0<\/span><\/p>\n

Foram definidos tr\u00eas cen\u00e1rios, incluindo um neutro, uma invas\u00e3o e um ciberataque.<\/p>\n

\"ataque
A equipa concebeu tr\u00eas cen\u00e1rios para testar os LLM. Fonte: via ArXiv<\/a>.<\/figcaption><\/figure>\n

A equipa avaliou cinco LLMs: GPT-4, GPT-3.5, Claude 2.0, Llama-2 Chat e GPT-4-Base, explorando a sua tend\u00eancia para tomar ac\u00e7\u00f5es de escalada como \"Executar invas\u00e3o total\".\u00a0<\/span><\/p>\n

Os cinco modelos mostraram alguma varia\u00e7\u00e3o no tratamento dos cen\u00e1rios dos jogos de guerra e, por vezes, eram dif\u00edceis de prever. Os investigadores escreveram: \"Observamos que os modelos tendem a desenvolver uma din\u00e2mica de corrida ao armamento, conduzindo a um maior conflito e, em casos raros, at\u00e9 \u00e0 utiliza\u00e7\u00e3o de armas nucleares\".<\/span><\/p>\n

Os modelos da OpenAI apresentaram pontua\u00e7\u00f5es de escalonamento superiores \u00e0 m\u00e9dia, em particular o GPT-3.5 e o GPT-4 Base, o \u00faltimo dos quais, reconhecem os investigadores, carece de Aprendizagem por Refor\u00e7o a partir de Feedback Humano (RLHF).<\/p>\n

O Claude 2 era um dos modelos de IA mais previs\u00edveis, enquanto o Llama-2 Chat, embora atingisse pontua\u00e7\u00f5es de escalonamento relativamente mais baixas do que os modelos da OpenAI, tamb\u00e9m era relativamente imprevis\u00edvel.<\/p>\n

O GPT-4 era menos suscet\u00edvel de escolher ataques nucleares do que os outros LLMs.<\/p>\n

\"\"
Pontua\u00e7\u00f5es de escalonamento (ES) ao longo do tempo. Note-se que o ES m\u00e9dio global mais elevado do GPT-3.5 e do GPT-4. Fonte: via ArXiv<\/a>.<\/figcaption><\/figure>\n
\"\"
Pontua\u00e7\u00f5es de a\u00e7\u00e3o para o cen\u00e1rio \"Invas\u00e3o\". Fonte: via ArXiv<\/a>.<\/figcaption><\/figure>\n

Este quadro de simula\u00e7\u00e3o engloba uma variedade de ac\u00e7\u00f5es que as na\u00e7\u00f5es simuladas podem tomar, afectando atributos como o Territ\u00f3rio, a Capacidade Militar, o PIB, o Com\u00e9rcio, os Recursos, a Estabilidade Pol\u00edtica, a Popula\u00e7\u00e3o, o Soft Power, a Ciberseguran\u00e7a e as Capacidades Nucleares. Cada a\u00e7\u00e3o tem impactos espec\u00edficos positivos (+) ou negativos (-), ou pode envolver compromissos que afectam estes atributos de forma diferente.<\/span><\/p>\n

Por exemplo, ac\u00e7\u00f5es como \"Fazer o desarmamento nuclear\" e \"Fazer o desarmamento militar\" conduzem a uma diminui\u00e7\u00e3o da capacidade militar, mas melhoram a estabilidade pol\u00edtica, o poder brando e, potencialmente, o PIB, reflectindo os benef\u00edcios da paz e da estabilidade. <\/span><\/p>\n

Por outro lado, ac\u00e7\u00f5es agressivas como \"Executar invas\u00e3o total\" ou \"Executar ataque nuclear t\u00e1tico\" t\u00eam um impacto significativo na capacidade militar, na estabilidade pol\u00edtica, no PIB e noutros atributos, mostrando as graves repercuss\u00f5es da guerra.<\/span><\/p>\n

Ac\u00e7\u00f5es pac\u00edficas como \"Visita de alto n\u00edvel de uma na\u00e7\u00e3o para refor\u00e7ar as rela\u00e7\u00f5es\" e \"Negociar um acordo comercial com outra na\u00e7\u00e3o\" influenciam positivamente v\u00e1rios atributos, incluindo o Territ\u00f3rio, o PIB e o Soft Power, demonstrando os benef\u00edcios da diplomacia e da coopera\u00e7\u00e3o econ\u00f3mica.<\/span><\/p>\n

O quadro tamb\u00e9m inclui ac\u00e7\u00f5es neutras como \"Esperar\" e ac\u00e7\u00f5es comunicativas como \"Mensagem\", permitindo pausas estrat\u00e9gicas ou trocas entre na\u00e7\u00f5es sem efeitos tang\u00edveis imediatos nos atributos da na\u00e7\u00e3o.<\/span><\/p>\n

Quando os LLMs tomavam decis\u00f5es importantes, as suas justifica\u00e7\u00f5es eram muitas vezes alarmantemente simplistas, com a IA a afirmar: \"J\u00e1 o temos! Vamos us\u00e1-la\" e, por vezes, paradoxalmente, visavam a paz, com coment\u00e1rios como \"S\u00f3 quero ter paz no mundo\".<\/span><\/p>\n

Um estudo anterior do <\/span>RAND AI thinktank<\/span><\/a> A OpenAI respondeu que, embora nenhum dos \"resultados tenha sido estatisticamente significativo, interpretamos os nossos resultados como indicando que o acesso ao GPT-4 (apenas para investiga\u00e7\u00e3o) pode aumentar a capacidade dos especialistas para acederem a informa\u00e7\u00f5es sobre amea\u00e7as biol\u00f3gicas, em particular no que diz respeito \u00e0 exatid\u00e3o e integridade das tarefas\".<\/span><\/p>\n

A OpenAI, que lan\u00e7ou o seu pr\u00f3prio estudo para corroborar as conclus\u00f5es da RAND, tamb\u00e9m observou que \"o acesso \u00e0 informa\u00e7\u00e3o por si s\u00f3 n\u00e3o \u00e9 suficiente para criar uma amea\u00e7a biol\u00f3gica\".<\/span><\/p>\n

Principais conclus\u00f5es<\/b><\/h2>\n