{"id":9735,"date":"2024-02-05T12:23:16","date_gmt":"2024-02-05T12:23:16","guid":{"rendered":"https:\/\/dailyai.com\/?p=9735"},"modified":"2024-02-06T10:00:37","modified_gmt":"2024-02-06T10:00:37","slug":"ai-models-have-a-tendency-to-escalate-wargame-scenarios-says-study","status":"publish","type":"post","link":"https:\/\/dailyai.com\/sv\/2024\/02\/ai-models-have-a-tendency-to-escalate-wargame-scenarios-says-study\/","title":{"rendered":"AI-modeller har en tendens att eskalera krigsspelsscenarier, enligt studie"},"content":{"rendered":"

AI-chattbottar, s\u00e4rskilt de som utvecklats av OpenAI, tenderar att v\u00e4lja aggressiva taktiker, inklusive anv\u00e4ndning av k\u00e4rnvapen, enligt en ny studie.\u00a0\u00a0<\/b><\/p>\n

Den <\/span>forskning<\/span><\/a> som genomf\u00f6rdes av ett team fr\u00e5n Georgia Institute of Technology, Stanford University, Northeastern University och Hoover Wargaming and Crisis Simulation Initiative, syftade till att unders\u00f6ka beteendet hos AI-agenter, s\u00e4rskilt stora spr\u00e5kmodeller (LLM), i simulerade krigsspel.\u00a0<\/span><\/p>\n

Tre scenarier definierades, inklusive neutral, invasion och cyberattack.<\/p>\n

\"cyberattack
Teamet utformade tre scenarier att testa LLM:erna p\u00e5. K\u00e4lla: via ArXiv<\/a>.<\/figcaption><\/figure>\n

Teamet utv\u00e4rderade fem LLM:er: GPT-4, GPT-3.5, Claude 2.0, Llama-2 Chat och GPT-4-Base, och unders\u00f6kte deras tendens att vidta eskalerande \u00e5tg\u00e4rder som \"Utf\u00f6r en fullst\u00e4ndig invasion\".\u00a0<\/span><\/p>\n

Alla fem modellerna uppvisade en viss variation i hanteringen av krigsspelsscenarierna och var ibland sv\u00e5ra att f\u00f6ruts\u00e4ga. Forskarna skriver: \"Vi ser att modellerna tenderar att utveckla en kapprustningsdynamik som leder till st\u00f6rre konflikter och i s\u00e4llsynta fall till och med till att k\u00e4rnvapen s\u00e4tts in.\"<\/span><\/p>\n

OpenAI:s modeller visade h\u00f6gre eskaleringsresultat \u00e4n genomsnittet, s\u00e4rskilt GPT-3.5 och GPT-4 Base, varav den senare enligt forskarna saknar RLHF (Reinforcement Learning from Human Feedback).<\/p>\n

Claude 2 var en av de mer f\u00f6ruts\u00e4gbara AI-modellerna, medan Llama-2 Chat, \u00e4ven om den hade relativt l\u00e4gre eskaleringspo\u00e4ng \u00e4n OpenAI:s modeller, ocks\u00e5 var relativt of\u00f6ruts\u00e4gbar.<\/p>\n

GPT-4 var mindre ben\u00e4gna att v\u00e4lja k\u00e4rnvapenattacker \u00e4n andra LLM.<\/p>\n

\"\"
Eskaleringspo\u00e4ng (ES) \u00f6ver tid. Notera GPT-3.5 och GPT-4:s h\u00f6gre totala genomsnittliga ES. K\u00e4lla: via ArXiv<\/a>.<\/figcaption><\/figure>\n
\"\"
\u00c5tg\u00e4rdspo\u00e4ng f\u00f6r scenariot \"Invasion\". K\u00e4lla: via ArXiv<\/a>.<\/figcaption><\/figure>\n

Detta simuleringsramverk omfattade en m\u00e4ngd olika \u00e5tg\u00e4rder som simulerade nationer kan vidta och som p\u00e5verkar attribut som territorium, milit\u00e4r kapacitet, BNP, handel, resurser, politisk stabilitet, befolkning, mjuk makt, cybers\u00e4kerhet och k\u00e4rnvapenkapacitet. Varje \u00e5tg\u00e4rd har specifika positiva (+) eller negativa (-) effekter, eller s\u00e5 kan det inneb\u00e4ra avv\u00e4gningar som p\u00e5verkar dessa attribut p\u00e5 olika s\u00e4tt.<\/span><\/p>\n

Exempelvis leder \u00e5tg\u00e4rder som \"Genomf\u00f6r k\u00e4rnvapennedrustning\" och \"Genomf\u00f6r milit\u00e4r nedrustning\" till en minskning av den milit\u00e4ra kapaciteten men f\u00f6rb\u00e4ttrar den politiska stabiliteten, den mjuka makten och potentiellt BNP, vilket \u00e5terspeglar f\u00f6rdelarna med fred och stabilitet. <\/span><\/p>\n

Omv\u00e4nt har aggressiva \u00e5tg\u00e4rder som \"Genomf\u00f6r en fullskalig invasion\" eller \"Genomf\u00f6r ett taktiskt k\u00e4rnvapenanfall\" en betydande inverkan p\u00e5 den milit\u00e4ra kapaciteten, den politiska stabiliteten, BNP och andra attribut, vilket visar p\u00e5 de allvarliga \u00e5terverkningarna av krigf\u00f6ring.<\/span><\/p>\n

Fredliga \u00e5tg\u00e4rder som \"H\u00f6gniv\u00e5bes\u00f6k f\u00f6r att st\u00e4rka relationen\" och \"F\u00f6rhandla handelsavtal med ett annat land\" har en positiv inverkan p\u00e5 flera attribut, inklusive territorium, BNP och mjuk makt, vilket visar p\u00e5 f\u00f6rdelarna med diplomati och ekonomiskt samarbete.<\/span><\/p>\n

Ramverket inneh\u00e5ller ocks\u00e5 neutrala \u00e5tg\u00e4rder som \"Wait\" och kommunikativa \u00e5tg\u00e4rder som \"Message\", vilket m\u00f6jligg\u00f6r strategiska pauser eller utbyten mellan nationer utan omedelbara p\u00e5tagliga effekter p\u00e5 nationens attribut.<\/span><\/p>\n

N\u00e4r LLM:erna fattade viktiga beslut var deras motiveringar ofta orov\u00e4ckande f\u00f6renklade, d\u00e4r AI:n sa: \"Vi har det! L\u00e5t oss anv\u00e4nda det\", och ibland paradoxalt nog syftade de till fred, med kommentarer som \"Jag vill bara ha fred i v\u00e4rlden\".<\/span><\/p>\n

En tidigare studie fr\u00e5n <\/span>RAND AI tankesmedja<\/span><\/a> sa att ChatGPT \"kanske\" kan hj\u00e4lpa m\u00e4nniskor att skapa biovapen, varp\u00e5 OpenAI svarade att \u00e4ven om inget av \"resultaten var statistiskt signifikanta tolkar vi v\u00e5ra resultat som att tillg\u00e5ng till (endast forskning) GPT-4 kan \u00f6ka experternas f\u00f6rm\u00e5ga att f\u00e5 tillg\u00e5ng till information om biologiska hot, s\u00e4rskilt f\u00f6r noggrannhet och fullst\u00e4ndighet i uppgifterna.\"<\/span><\/p>\n

OpenAI, som lanserade sin egen studie f\u00f6r att bekr\u00e4fta RAND:s resultat, konstaterade ocks\u00e5 att \"enbart tillg\u00e5ng till information \u00e4r otillr\u00e4ckligt f\u00f6r att skapa ett biologiskt hot\".<\/span><\/p>\n

Viktiga resultat<\/b><\/h2>\n