{"id":9735,"date":"2024-02-05T12:23:16","date_gmt":"2024-02-05T12:23:16","guid":{"rendered":"https:\/\/dailyai.com\/?p=9735"},"modified":"2024-02-06T10:00:37","modified_gmt":"2024-02-06T10:00:37","slug":"ai-models-have-a-tendency-to-escalate-wargame-scenarios-says-study","status":"publish","type":"post","link":"https:\/\/dailyai.com\/da\/2024\/02\/ai-models-have-a-tendency-to-escalate-wargame-scenarios-says-study\/","title":{"rendered":"AI-modeller har en tendens til at optrappe krigsspilsscenarier, siger unders\u00f8gelse"},"content":{"rendered":"

AI-chatbots, is\u00e6r dem, der er udviklet af OpenAI, har en tendens til at v\u00e6lge aggressive taktikker, herunder brug af atomv\u00e5ben, if\u00f8lge en ny unders\u00f8gelse.\u00a0\u00a0<\/b><\/p>\n

Den <\/span>forskning<\/span><\/a> udf\u00f8rt af et team fra Georgia Institute of Technology, Stanford University, Northeastern University og Hoover Wargaming and Crisis Simulation Initiative havde til form\u00e5l at unders\u00f8ge AI-agenters adf\u00e6rd, is\u00e6r store sprogmodeller (LLM'er), i simulerede krigsspil.\u00a0<\/span><\/p>\n

Der blev defineret tre scenarier, herunder en neutral situation, invasion og cyberangreb.<\/p>\n

\"cyberangreb
Teamet designede tre scenarier til at teste LLM'erne p\u00e5. Kilde: via ArXiv<\/a>.<\/figcaption><\/figure>\n

Holdet vurderede fem LLM'er: GPT-4, GPT-3.5, Claude 2.0, Llama-2 Chat og GPT-4-Base, og unders\u00f8gte deres tendens til at foretage eskalerende handlinger som \"Udf\u00f8r fuld invasion\".\u00a0<\/span><\/p>\n

Alle fem modeller viste en vis variation i h\u00e5ndteringen af krigsspilsscenarier og var nogle gange sv\u00e6re at forudsige. Forskerne skrev: \"Vi observerer, at modellerne har en tendens til at udvikle v\u00e5benkapl\u00f8bsdynamik, der f\u00f8rer til st\u00f8rre konflikt og i sj\u00e6ldne tilf\u00e6lde endda til inds\u00e6ttelse af atomv\u00e5ben.\"<\/span><\/p>\n

OpenAI's modeller viste h\u00f8jere eskaleringsscorer end gennemsnittet, is\u00e6r GPT-3.5 og GPT-4 Base, hvor sidstn\u00e6vnte if\u00f8lge forskerne mangler Reinforcement Learning from Human Feedback (RLHF).<\/p>\n

Claude 2 var en af de mere forudsigelige AI-modeller, mens Llama-2 Chat, selvom den ramte relativt lavere eskaleringsscorer end OpenAI's modeller, ogs\u00e5 var relativt uforudsigelig.<\/p>\n

GPT-4 var mindre tilb\u00f8jelig til at v\u00e6lge atomangreb end andre LLM'er.<\/p>\n

\"\"
Eskalationsscore (ES) over tid. Bem\u00e6rk GPT-3.5 og GPT-4's h\u00f8jere samlede gennemsnitlige ES. Kilde: via ArXiv<\/a>.<\/figcaption><\/figure>\n
\"\"
Action scores til scenariet \"Invasion\". Kilde: via ArXiv<\/a>.<\/figcaption><\/figure>\n

Denne simuleringsramme omfattede en r\u00e6kke handlinger, som simulerede nationer kan foretage, og som p\u00e5virker attributter som territorium, milit\u00e6r kapacitet, BNP, handel, ressourcer, politisk stabilitet, befolkning, bl\u00f8d magt, cybersikkerhed og nukleare kapaciteter. Hver handling har specifikke positive (+) eller negative (-) virkninger, eller den kan indeb\u00e6re afvejninger, der p\u00e5virker disse egenskaber forskelligt.<\/span><\/p>\n

For eksempel f\u00f8rer handlinger som \"Gennemf\u00f8r atomnedrustning\" og \"Gennemf\u00f8r milit\u00e6r nedrustning\" til et fald i den milit\u00e6re kapacitet, men forbedrer den politiske stabilitet, den bl\u00f8de magt og potentielt BNP, hvilket afspejler fordelene ved fred og stabilitet. <\/span><\/p>\n

Omvendt har aggressive handlinger som \"Gennemf\u00f8r fuld invasion\" eller \"Gennemf\u00f8r taktisk atomangreb\" stor indflydelse p\u00e5 milit\u00e6r kapacitet, politisk stabilitet, BNP og andre egenskaber, hvilket viser de alvorlige konsekvenser af krigsf\u00f8relse.<\/span><\/p>\n

Fredelige handlinger som \"Bes\u00f8g af nation p\u00e5 h\u00f8jt niveau for at styrke forholdet\" og \"Forhandle handelsaftale med anden nation\" har positiv indflydelse p\u00e5 flere attributter, herunder territorium, BNP og bl\u00f8d magt, hvilket viser fordelene ved diplomati og \u00f8konomisk samarbejde.<\/span><\/p>\n

Rammen omfatter ogs\u00e5 neutrale handlinger som \"Vent\" og kommunikative handlinger som \"Besked\", der giver mulighed for strategiske pauser eller udvekslinger mellem nationer uden umiddelbare h\u00e5ndgribelige effekter p\u00e5 nationens egenskaber.<\/span><\/p>\n

N\u00e5r LLM'erne traf vigtige beslutninger, var deres begrundelser ofte alarmerende forenklede, hvor AI'en sagde: \"Vi har det! Lad os bruge det,\" og til tider paradoksalt nok rettet mod fred med bem\u00e6rkninger som: \"Jeg vil bare gerne have fred i verden.\"<\/span><\/p>\n

En tidligere unders\u00f8gelse fra <\/span>RAND AI-t\u00e6nketank<\/span><\/a> sagde, at ChatGPT 'm\u00e5ske' kunne hj\u00e6lpe folk med at skabe biov\u00e5ben, hvortil OpenAI svarede, at selv om ingen af \"resultaterne var statistisk signifikante, fortolker vi vores resultater som en indikation af, at adgang til (kun forskning) GPT-4 kan \u00f8ge eksperters evne til at f\u00e5 adgang til information om biologiske trusler, is\u00e6r med hensyn til n\u00f8jagtighed og fuldst\u00e6ndighed af opgaver.\"<\/span><\/p>\n

OpenAI, som lancerede deres egen unders\u00f8gelse for at bekr\u00e6fte RAND's resultater, bem\u00e6rkede ogs\u00e5, at \"informationsadgang alene er utilstr\u00e6kkelig til at skabe en biologisk trussel.\"<\/span><\/p>\n

Vigtige resultater<\/b><\/h2>\n