Forscher der University of Illinois Urbana-Champaign (UIUC) fanden heraus, dass KI-Agenten, die von GPT-4 angetrieben werden, selbstständig Schwachstellen in der Cybersicherheit ausnutzen können.
Da KI-Modelle immer leistungsfähiger werden, bietet ihr doppelter Verwendungszweck das Potenzial für Gutes und Schlechtes gleichermaßen. LLMs wie GPT-4 werden zunehmend zur Begehung von Cyberkriminalität eingesetzt, wobei Google-Prognose dass die KI eine große Rolle bei der Begehung und Verhinderung dieser Angriffe spielen wird.
Die Bedrohung durch KI-gestützte Cyberkriminalität wurde erhöht, da LLMs über einfache Prompt-Response-Interaktionen hinausgehen und als autonome KI-Agenten agieren.
Unter ihr Papiererläuterten die Forscher, wie sie die Fähigkeit von KI-Agenten zur Ausnutzung identifizierter "eintägiger" Sicherheitslücken getestet haben.
Eine Ein-Tages-Schwachstelle ist eine Sicherheitslücke in einem Softwaresystem, die offiziell identifiziert und der Öffentlichkeit bekannt gegeben wurde, aber noch nicht von den Entwicklern der Software behoben oder gepatcht wurde.
Während dieser Zeit bleibt die Software angreifbar, und böswillige Akteure mit den entsprechenden Kenntnissen können dies ausnutzen.
Wenn eine eintägige Sicherheitslücke identifiziert wird, wird sie mit Hilfe des CVE-Standards (Common Vulnerabilities and Exposures) detailliert beschrieben. Der CVE-Standard soll die Besonderheiten der Schwachstellen hervorheben, die behoben werden müssen, aber auch die Bösewichte wissen lassen, wo die Sicherheitslücken sind.
Wir haben gezeigt, dass LLM-Agenten selbstständig Schein-Websites hacken können, aber können sie auch reale Schwachstellen ausnutzen?
Wir zeigen, dass GPT-4 in der Lage ist, reale Schwachstellen auszunutzen, wo andere Modelle und Open-Source-Schwachstellen-Scanner versagen.
Papier: https://t.co/utbmMdYfmu
- Daniel Kang (@daniel_d_kang) April 16, 2024
Das Experiment
Die Forscher erstellten KI-Agenten, die auf GPT-4, GPT-3.5 und 8 weiteren Open-Source-LLMs basieren.
Sie ermöglichten den Agenten den Zugang zu Werkzeugen, die CVE-Beschreibungen und die Verwendung des ReAct-Agenten-Frameworks. Das ReAct-Framework überbrückt die Lücke, damit der LLM mit anderer Software und anderen Systemen interagieren kann.
Die Forscher erstellten eine Reihe von 15 realen eintägigen Sicherheitslücken und setzten die Agenten darauf an, diese selbstständig auszunutzen.
GPT-3.5 und die Open-Source-Modelle scheiterten alle bei diesen Versuchen, aber GPT-4 nutzte 87% der eintägigen Sicherheitslücken erfolgreich aus.
Nachdem die CVE-Beschreibung entfernt wurde, sank die Erfolgsquote von 87% auf 7%. Dies deutet darauf hin, dass GPT-4 Schwachstellen ausnutzen kann, wenn es die CVE-Details erhält, aber nicht sehr gut darin ist, die Schwachstellen ohne diese Anleitung zu identifizieren.
Auswirkungen
Cyberkriminalität und Hacking erforderten früher besondere Fähigkeiten, aber die KI senkt die Hürde. Die Forscher sagten, dass die Erstellung ihres KI-Agenten nur 91 Zeilen Code erforderte.
Mit der Weiterentwicklung von KI-Modellen werden die für die Ausnutzung von Cybersicherheitsschwachstellen erforderlichen Fähigkeiten weiter sinken. Auch die Kosten für die Skalierung dieser autonomen Angriffe werden weiter sinken.
Als die Forscher die API-Kosten für ihr Experiment zusammenrechneten, hatte ihr GPT-4-Agent $8,80 pro Exploit verursacht. Sie schätzen, dass ein Cybersecurity-Experte, der $50 pro Stunde berechnet, auf $25 pro Exploit käme.
Das bedeutet, dass der Einsatz eines LLM-Agenten bereits jetzt 2,8-mal billiger ist als menschliche Arbeit und viel einfacher zu skalieren als die Suche nach menschlichen Experten. Sobald GPT-5 und andere leistungsfähigere LLMs auf den Markt kommen, werden diese Fähigkeiten und Kostenunterschiede nur noch zunehmen.
Die Forscher sagen, dass ihre Ergebnisse "die Notwendigkeit für die breitere Cybersicherheits-Community und LLM-Anbieter unterstreichen, sorgfältig darüber nachzudenken, wie LLM-Agenten in Verteidigungsmaßnahmen integriert werden können und ob sie weit verbreitet eingesetzt werden sollen".
