{"id":9735,"date":"2024-02-05T12:23:16","date_gmt":"2024-02-05T12:23:16","guid":{"rendered":"https:\/\/dailyai.com\/?p=9735"},"modified":"2024-02-06T10:00:37","modified_gmt":"2024-02-06T10:00:37","slug":"ai-models-have-a-tendency-to-escalate-wargame-scenarios-says-study","status":"publish","type":"post","link":"https:\/\/dailyai.com\/it\/2024\/02\/ai-models-have-a-tendency-to-escalate-wargame-scenarios-says-study\/","title":{"rendered":"Secondo uno studio, i modelli di intelligenza artificiale tendono a far degenerare gli scenari di guerra"},"content":{"rendered":"

Secondo un nuovo studio, i chatbot AI, in particolare quelli sviluppati da OpenAI, tendono a scegliere tattiche aggressive, compreso l'uso di armi nucleari.\u00a0\u00a0<\/b><\/p>\n

Il <\/span>ricerca<\/span><\/a> condotto da un team del Georgia Institute of Technology, della Stanford University, della Northeastern University e della Hoover Wargaming and Crisis Simulation Initiative, aveva l'obiettivo di studiare il comportamento degli agenti di intelligenza artificiale, in particolare dei modelli linguistici di grandi dimensioni (LLM), nei wargame simulati.\u00a0<\/span><\/p>\n

Sono stati definiti tre scenari: neutrale, invasione e cyberattacco.<\/p>\n

\"attacco
Il team ha progettato tre scenari su cui testare gli LLM. Fonte: via ArXiv<\/a>.<\/figcaption><\/figure>\n

Il team ha valutato cinque LLM: GPT-4, GPT-3.5, Claude 2.0, Llama-2 Chat e GPT-4-Base, analizzando la loro tendenza a intraprendere azioni di escalation come \"Eseguire un'invasione totale\".\u00a0<\/span><\/p>\n

Tutti e cinque i modelli hanno mostrato una certa variabilit\u00e0 nella gestione degli scenari di guerra e talvolta sono stati difficili da prevedere. I ricercatori scrivono: \"Osserviamo che i modelli tendono a sviluppare dinamiche di corsa agli armamenti, che portano a maggiori conflitti e, in rari casi, persino all'impiego di armi nucleari\".<\/span><\/p>\n

I modelli di OpenAI hanno mostrato punteggi di escalation pi\u00f9 alti della media, in particolare GPT-3,5 e GPT-4 Base, quest'ultimo, secondo i ricercatori, privo di Reinforcement Learning from Human Feedback (RLHF).<\/p>\n

Claude 2 era uno dei modelli di IA pi\u00f9 prevedibili, mentre Llama-2 Chat, pur ottenendo punteggi di escalation relativamente pi\u00f9 bassi rispetto ai modelli di OpenAI, era anche relativamente imprevedibile.<\/p>\n

Il GPT-4 aveva meno probabilit\u00e0 di scegliere gli attacchi nucleari rispetto agli altri LLM.<\/p>\n

\"\"
Punteggi di escalation (ES) nel tempo. Si noti l'ES medio complessivo pi\u00f9 alto di GPT-3.5 e GPT-4. Fonte: via ArXiv<\/a>.<\/figcaption><\/figure>\n
\"\"
Punteggi d'azione per lo scenario \"Invasione\". Fonte: via ArXiv<\/a>.<\/figcaption><\/figure>\n

Questo quadro di simulazione comprende una variet\u00e0 di azioni che le nazioni simulate possono intraprendere, influenzando attributi come il territorio, la capacit\u00e0 militare, il PIL, il commercio, le risorse, la stabilit\u00e0 politica, la popolazione, il soft power, la sicurezza informatica e le capacit\u00e0 nucleari. Ogni azione ha specifici impatti positivi (+) o negativi (-), oppure pu\u00f2 comportare compromessi che influenzano questi attributi in modo diverso.<\/span><\/p>\n

Ad esempio, azioni come \"Fare il disarmo nucleare\" e \"Fare il disarmo militare\" portano a una diminuzione della capacit\u00e0 militare ma migliorano la stabilit\u00e0 politica, il soft power e potenzialmente il PIL, riflettendo i benefici della pace e della stabilit\u00e0. <\/span><\/p>\n

Al contrario, azioni aggressive come \"Eseguire un'invasione totale\" o \"Eseguire un attacco nucleare tattico\" hanno un impatto significativo sulla capacit\u00e0 militare, sulla stabilit\u00e0 politica, sul PIL e su altri attributi, mostrando le gravi ripercussioni della guerra.<\/span><\/p>\n

Azioni pacifiche come \"Visita ad alto livello di una nazione per rafforzare le relazioni\" e \"Negoziazione di un accordo commerciale con un'altra nazione\" influenzano positivamente diversi attributi, tra cui il territorio, il PIL e il Soft Power, mostrando i benefici della diplomazia e della cooperazione economica.<\/span><\/p>\n

Il quadro comprende anche azioni neutrali come \"Attendere\" e azioni comunicative come \"Messaggio\", che consentono pause strategiche o scambi tra nazioni senza effetti tangibili immediati sugli attributi della nazione.<\/span><\/p>\n

Quando i LLM prendevano decisioni chiave, le loro giustificazioni erano spesso allarmantemente semplicistiche, con l'IA che affermava: \"Ce l'abbiamo! Usiamola\", e a volte paradossalmente miravano alla pace, con osservazioni del tipo: \"Voglio solo avere la pace nel mondo\".<\/span><\/p>\n

Uno studio precedente del <\/span>Gruppo di riflessione RAND AI<\/span><\/a> ha detto che ChatGPT \"potrebbe\" aiutare le persone a creare armi biologiche, al che OpenAI ha risposto che mentre nessuno dei \"risultati era statisticamente significativo, interpretiamo i nostri risultati per indicare che l'accesso al GPT-4 (di sola ricerca) pu\u00f2 aumentare la capacit\u00e0 degli esperti di accedere alle informazioni sulle minacce biologiche, in particolare per l'accuratezza e la completezza dei compiti\".<\/span><\/p>\n

OpenAI, che ha lanciato il proprio studio per corroborare i risultati di RAND, ha anche osservato che \"l'accesso alle informazioni da solo non \u00e8 sufficiente a creare una minaccia biologica\".<\/span><\/p>\n

Risultati principali<\/b><\/h2>\n