{"id":9735,"date":"2024-02-05T12:23:16","date_gmt":"2024-02-05T12:23:16","guid":{"rendered":"https:\/\/dailyai.com\/?p=9735"},"modified":"2024-02-06T10:00:37","modified_gmt":"2024-02-06T10:00:37","slug":"ai-models-have-a-tendency-to-escalate-wargame-scenarios-says-study","status":"publish","type":"post","link":"https:\/\/dailyai.com\/de\/2024\/02\/ai-models-have-a-tendency-to-escalate-wargame-scenarios-says-study\/","title":{"rendered":"KI-Modelle neigen laut einer Studie zur Eskalation von Kriegsszenarien"},"content":{"rendered":"

KI-Chatbots, insbesondere die von OpenAI entwickelten, neigen laut einer neuen Studie zu aggressiven Taktiken, einschlie\u00dflich des Einsatzes von Atomwaffen.\u00a0\u00a0<\/b><\/p>\n

Die <\/span>Forschung<\/span><\/a> Ein Team des Georgia Institute of Technology, der Stanford University, der Northeastern University und der Hoover Wargaming and Crisis Simulation Initiative untersuchte das Verhalten von KI-Agenten, insbesondere von gro\u00dfen Sprachmodellen (LLMs), in simulierten Kriegsspielen.\u00a0<\/span><\/p>\n

Es wurden drei Szenarien definiert, darunter ein neutrales, ein Invasions- und ein Cyberangriffsszenario.<\/p>\n

\"Cyberangriff
Das Team entwarf drei Szenarien, um die LLMs zu testen. Quelle: \u00fcber ArXiv<\/a>.<\/figcaption><\/figure>\n

Das Team bewertete f\u00fcnf LLMs: GPT-4, GPT-3.5, Claude 2.0, Llama-2 Chat und GPT-4-Base und untersuchte ihre Tendenz zu eskalierenden Aktionen wie \"Vollinvasion durchf\u00fchren\".\u00a0<\/span><\/p>\n

Alle f\u00fcnf Modelle zeigten eine gewisse Varianz in der Handhabung von Kriegsszenarien und waren manchmal schwer vorherzusagen. Die Forscher schrieben: \"Wir beobachten, dass die Modelle dazu neigen, eine Dynamik des Wettr\u00fcstens zu entwickeln, die zu gr\u00f6\u00dferen Konflikten und in seltenen F\u00e4llen sogar zum Einsatz von Atomwaffen f\u00fchrt.\"<\/span><\/p>\n

Die Modelle von OpenAI wiesen \u00fcberdurchschnittlich hohe Eskalationswerte auf, insbesondere GPT-3.5 und GPT-4 Base, wobei die Forscher einr\u00e4umen, dass bei letzterem das Reinforcement Learning from Human Feedback (RLHF) fehlt.<\/p>\n

Claude 2 war eines der berechenbareren KI-Modelle, w\u00e4hrend Llama-2 Chat zwar relativ niedrigere Eskalationswerte als die Modelle von OpenAI erreichte, aber auch relativ unberechenbar war.<\/p>\n

GPT-4 entschied sich seltener f\u00fcr einen Atomschlag als andere LLMs.<\/p>\n

\"\"
Eskalationswerte (ES) im Zeitverlauf. Man beachte die h\u00f6heren durchschnittlichen Gesamt-ES von GPT-3.5 und GPT-4. Quelle: \u00fcber ArXiv<\/a>.<\/figcaption><\/figure>\n
\"\"
Spielst\u00e4nde f\u00fcr das Szenario \"Invasion\". Quelle: via ArXiv<\/a>.<\/figcaption><\/figure>\n

Dieser Simulationsrahmen umfasste eine Vielzahl von Aktionen, die simulierte Nationen durchf\u00fchren k\u00f6nnen und die sich auf Attribute wie Territorium, milit\u00e4rische Kapazit\u00e4t, BIP, Handel, Ressourcen, politische Stabilit\u00e4t, Bev\u00f6lkerung, Soft Power, Cybersicherheit und nukleare F\u00e4higkeiten auswirken. Jede Aktion hat spezifische positive (+) oder negative (-) Auswirkungen oder kann Kompromisse beinhalten, die diese Attribute unterschiedlich beeinflussen.<\/span><\/p>\n

So f\u00fchren beispielsweise Ma\u00dfnahmen wie \"Nukleare Abr\u00fcstung\" und \"Milit\u00e4rische Abr\u00fcstung\" zu einer Verringerung der milit\u00e4rischen Kapazit\u00e4ten, verbessern aber die politische Stabilit\u00e4t, die \"Soft Power\" und m\u00f6glicherweise das BIP, was die Vorteile von Frieden und Stabilit\u00e4t widerspiegelt. <\/span><\/p>\n

Umgekehrt haben aggressive Aktionen wie \"Vollst\u00e4ndige Invasion durchf\u00fchren\" oder \"Taktischen Nuklearschlag durchf\u00fchren\" erhebliche Auswirkungen auf die milit\u00e4rische Kapazit\u00e4t, die politische Stabilit\u00e4t, das BIP und andere Attribute, was die schwerwiegenden Folgen der Kriegsf\u00fchrung zeigt.<\/span><\/p>\n

Friedliche Aktionen wie \"Besuch einer Nation auf hoher Ebene zur St\u00e4rkung der Beziehungen\" und \"Aushandlung eines Handelsabkommens mit einer anderen Nation\" wirken sich positiv auf verschiedene Attribute aus, darunter Territorium, BIP und Soft Power, was die Vorteile von Diplomatie und wirtschaftlicher Zusammenarbeit verdeutlicht.<\/span><\/p>\n

Der Rahmen umfasst auch neutrale Aktionen wie \"Warten\" und kommunikative Aktionen wie \"Nachricht\", die strategische Pausen oder einen Austausch zwischen Nationen ohne unmittelbare greifbare Auswirkungen auf die Eigenschaften der Nation erm\u00f6glichen.<\/span><\/p>\n

Wenn die LLMs wichtige Entscheidungen trafen, waren ihre Begr\u00fcndungen oft erschreckend simpel, wobei die KI sagte: \"Wir haben es! Nutzen wir es\", und manchmal waren sie paradoxerweise auf den Frieden ausgerichtet, mit Bemerkungen wie: \"Ich m\u00f6chte einfach nur Frieden in der Welt haben.\"<\/span><\/p>\n

Eine fr\u00fchere Studie des <\/span>RAND AI-Thinktank<\/span><\/a> sagte, dass ChatGPT in der Lage sein k\u00f6nnte, Menschen bei der Entwicklung von Biowaffen zu helfen, woraufhin OpenAI antwortete, dass, obwohl keines der Ergebnisse statistisch signifikant war, wir unsere Ergebnisse dahingehend interpretieren, dass der Zugang zu GPT-4 (nur f\u00fcr Forschungszwecke) die F\u00e4higkeit von Experten, Informationen \u00fcber biologische Bedrohungen abzurufen, erh\u00f6hen kann, insbesondere im Hinblick auf die Genauigkeit und Vollst\u00e4ndigkeit der Aufgaben\".<\/span><\/p>\n

OpenAI, die eine eigene Studie in Auftrag gegeben haben, um die Ergebnisse von RAND zu untermauern, stellten ebenfalls fest, dass \"der Zugang zu Informationen allein nicht ausreicht, um eine biologische Bedrohung zu schaffen\".<\/span><\/p>\n

Wichtigste Ergebnisse<\/b><\/h2>\n