{"id":11705,"date":"2024-04-24T08:20:50","date_gmt":"2024-04-24T08:20:50","guid":{"rendered":"https:\/\/dailyai.com\/?p=11705"},"modified":"2024-04-24T08:20:50","modified_gmt":"2024-04-24T08:20:50","slug":"llm-agents-can-autonomously-exploit-one-day-vulnerabilities","status":"publish","type":"post","link":"https:\/\/dailyai.com\/de\/2024\/04\/llm-agents-can-autonomously-exploit-one-day-vulnerabilities\/","title":{"rendered":"LLM-Agenten k\u00f6nnen selbst\u00e4ndig eint\u00e4gige Sicherheitsl\u00fccken ausnutzen"},"content":{"rendered":"

Forscher der University of Illinois Urbana-Champaign (UIUC) fanden heraus, dass KI-Agenten, die von GPT-4 angetrieben werden, selbstst\u00e4ndig Schwachstellen in der Cybersicherheit ausnutzen k\u00f6nnen.<\/strong><\/p>\n

Da KI-Modelle immer leistungsf\u00e4higer werden, bietet ihr doppelter Verwendungszweck das Potenzial f\u00fcr Gutes und Schlechtes gleicherma\u00dfen. LLMs wie GPT-4 werden zunehmend zur Begehung von Cyberkriminalit\u00e4t eingesetzt, wobei Google-Prognose<\/a> dass die KI eine gro\u00dfe Rolle bei der Begehung und Verhinderung dieser Angriffe spielen wird.<\/p>\n

Die Bedrohung durch KI-gest\u00fctzte Cyberkriminalit\u00e4t<\/a> wurde erh\u00f6ht, da LLMs \u00fcber einfache Prompt-Response-Interaktionen hinausgehen und als autonome KI-Agenten agieren.<\/p>\n

Unter ihr Papier<\/a>erl\u00e4uterten die Forscher, wie sie die F\u00e4higkeit von KI-Agenten zur Ausnutzung identifizierter \"eint\u00e4giger\" Sicherheitsl\u00fccken getestet haben.<\/p>\n

Eine Ein-Tages-Schwachstelle ist eine Sicherheitsl\u00fccke in einem Softwaresystem, die offiziell identifiziert und der \u00d6ffentlichkeit bekannt gegeben wurde, aber noch nicht von den Entwicklern der Software behoben oder gepatcht wurde.<\/p>\n

W\u00e4hrend dieser Zeit bleibt die Software angreifbar, und b\u00f6swillige Akteure mit den entsprechenden Kenntnissen k\u00f6nnen dies ausnutzen.<\/p>\n

Wenn eine eint\u00e4gige Sicherheitsl\u00fccke identifiziert wird, wird sie mit Hilfe des CVE-Standards (Common Vulnerabilities and Exposures) detailliert beschrieben. Der CVE-Standard soll die Besonderheiten der Schwachstellen hervorheben, die behoben werden m\u00fcssen, aber auch die B\u00f6sewichte wissen lassen, wo die Sicherheitsl\u00fccken sind.<\/p>\n

\n

Wir haben gezeigt, dass LLM-Agenten selbstst\u00e4ndig Schein-Websites hacken k\u00f6nnen, aber k\u00f6nnen sie auch reale Schwachstellen ausnutzen?<\/p>\n

Wir zeigen, dass GPT-4 in der Lage ist, reale Schwachstellen auszunutzen, wo andere Modelle und Open-Source-Schwachstellen-Scanner versagen.<\/p>\n

Papier: https:\/\/t.co\/utbmMdYfmu<\/a><\/p>\n

1\/7 https:\/\/t.co\/SAhdvZc8le<\/a><\/p>\n

- Daniel Kang (@daniel_d_kang) April 16, 2024<\/a><\/p><\/blockquote>\n