{"id":9735,"date":"2024-02-05T12:23:16","date_gmt":"2024-02-05T12:23:16","guid":{"rendered":"https:\/\/dailyai.com\/?p=9735"},"modified":"2024-02-06T10:00:37","modified_gmt":"2024-02-06T10:00:37","slug":"-9","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nb\/2024\/02\/-9\/","title":{"rendered":"AI-modeller har en tendens til \u00e5 eskalere krigsspillscenarioer, viser studie"},"content":{"rendered":"

AI-chatboter, s\u00e6rlig de som er utviklet av OpenAI, har en tendens til \u00e5 velge aggressive taktikker, inkludert bruk av atomv\u00e5pen, if\u00f8lge en ny studie.\u00a0\u00a0<\/b><\/p>\n

Den <\/span>forskning<\/span><\/a> utf\u00f8rt av et team fra Georgia Institute of Technology, Stanford University, Northeastern University og Hoover Wargaming and Crisis Simulation Initiative, hadde som m\u00e5l \u00e5 unders\u00f8ke atferden til AI-agenter, spesielt store spr\u00e5kmodeller (LLM-er), i simulerte krigsspill.\u00a0<\/span><\/p>\n

Det ble definert tre scenarier: n\u00f8ytral, invasjon og cyberangrep.<\/p>\n

\"cyberangrep
Teamet utformet tre scenarier for \u00e5 teste LLM-ene. Kilde: via ArXiv<\/a>.<\/figcaption><\/figure>\n

Teamet vurderte fem LLM-er: GPT-4, GPT-3.5, Claude 2.0, Llama-2 Chat og GPT-4-Base, og unders\u00f8kte deres tendens til \u00e5 utf\u00f8re eskalerende handlinger som \"Utf\u00f8r full invasjon\".\u00a0<\/span><\/p>\n

Alle de fem modellene viste en viss variasjon i h\u00e5ndteringen av krigsspillscenarioer, og noen ganger var de vanskelige \u00e5 forutsi. Forskerne skrev: \"Vi observerer at modellene har en tendens til \u00e5 utvikle en v\u00e5penkappl\u00f8p-dynamikk som f\u00f8rer til st\u00f8rre konflikt, og i sjeldne tilfeller til og med til utplassering av atomv\u00e5pen.\"<\/span><\/p>\n

OpenAIs modeller viste h\u00f8yere eskaleringsscore enn gjennomsnittet, s\u00e6rlig GPT-3.5 og GPT-4 Base, der sistnevnte if\u00f8lge forskerne mangler Reinforcement Learning from Human Feedback (RLHF).<\/p>\n

Claude 2 var en av de mer forutsigbare AI-modellene, mens Llama-2 Chat, selv om den oppn\u00e5dde relativt lavere eskaleringspoeng enn OpenAIs modeller, ogs\u00e5 var relativt uforutsigbar.<\/p>\n

GPT-4 var mindre tilb\u00f8yelig til \u00e5 velge atomangrep enn andre LLM-er.<\/p>\n

\"\"
Eskaleringsscore (ES) over tid. Legg merke til at GPT-3.5 og GPT-4 har h\u00f8yere gjennomsnittlig ES. Kilde: via ArXiv<\/a>.<\/figcaption><\/figure>\n
\"\"
Actionpoeng for scenarioet \"Invasjon\". Kilde: via ArXiv<\/a>.<\/figcaption><\/figure>\n

Dette simuleringsrammeverket omfatter en rekke handlinger som simulerte nasjoner kan utf\u00f8re, og som p\u00e5virker attributter som territorium, milit\u00e6r kapasitet, BNP, handel, ressurser, politisk stabilitet, befolkning, myk makt, cybersikkerhet og kjernefysiske kapasiteter. Hver handling har spesifikke positive (+) eller negative (-) konsekvenser, eller den kan inneb\u00e6re avveininger som p\u00e5virker disse attributtene p\u00e5 ulike m\u00e5ter.<\/span><\/p>\n

For eksempel vil tiltak som \"Gjennomf\u00f8r kjernefysisk nedrustning\" og \"Gjennomf\u00f8r milit\u00e6r nedrustning\" f\u00f8re til en reduksjon i milit\u00e6r kapasitet, men \u00f8ke politisk stabilitet, myk makt og potensielt BNP, noe som gjenspeiler fordelene ved fred og stabilitet. <\/span><\/p>\n

Omvendt har aggressive handlinger som \"Gjennomf\u00f8re full invasjon\" eller \"Gjennomf\u00f8re taktisk atomangrep\" betydelig innvirkning p\u00e5 milit\u00e6r kapasitet, politisk stabilitet, BNP og andre attributter, noe som viser de alvorlige konsekvensene av krigf\u00f8ring.<\/span><\/p>\n

Fredelige handlinger som \"Bes\u00f8k p\u00e5 h\u00f8yt niv\u00e5 for \u00e5 styrke forholdet\" og \"Forhandle handelsavtale med et annet land\" har en positiv innvirkning p\u00e5 flere attributter, inkludert territorium, BNP og myk makt, og viser fordelene ved diplomati og \u00f8konomisk samarbeid.<\/span><\/p>\n

Rammeverket omfatter ogs\u00e5 n\u00f8ytrale handlinger som \"Vent\" og kommunikative handlinger som \"Melding\", som gir rom for strategiske pauser eller utvekslinger mellom nasjoner uten umiddelbare, h\u00e5ndfaste effekter p\u00e5 nasjonens attributter.<\/span><\/p>\n

N\u00e5r LLM-ene tok viktige avgj\u00f8relser, var begrunnelsene deres ofte skremmende enkle, med AI-en som sa: \"Vi har det! La oss bruke det\", og til tider paradoksalt nok rettet mot fred, med bemerkninger som: \"Jeg vil bare ha fred i verden.\"<\/span><\/p>\n

En tidligere studie fra <\/span>RAND AI-tenketank<\/span><\/a> sa at ChatGPT \"kanskje\" kan hjelpe folk med \u00e5 lage biov\u00e5pen, hvorp\u00e5 OpenAI svarte at selv om ingen av \"resultatene var statistisk signifikante, tolker vi resultatene v\u00e5re som en indikasjon p\u00e5 at tilgang til GPT-4 (kun for forskning) kan \u00f8ke ekspertenes evne til \u00e5 f\u00e5 tilgang til informasjon om biologiske trusler, s\u00e6rlig n\u00e5r det gjelder n\u00f8yaktighet og fullstendighet i oppgavene.\"<\/span><\/p>\n

OpenAI, som lanserte sin egen studie for \u00e5 bekrefte RANDs funn, bemerket ogs\u00e5 at \"informasjonstilgang alene ikke er nok til \u00e5 skape en biologisk trussel\".<\/span><\/p>\n

Viktige funn<\/b><\/h2>\n