{"id":11705,"date":"2024-04-24T08:20:50","date_gmt":"2024-04-24T08:20:50","guid":{"rendered":"https:\/\/dailyai.com\/?p=11705"},"modified":"2024-04-24T08:20:50","modified_gmt":"2024-04-24T08:20:50","slug":"llm-agents-can-autonomously-exploit-one-day-vulnerabilities","status":"publish","type":"post","link":"https:\/\/dailyai.com\/sv\/2024\/04\/llm-agents-can-autonomously-exploit-one-day-vulnerabilities\/","title":{"rendered":"LLM-agenter kan sj\u00e4lvst\u00e4ndigt utnyttja endagss\u00e5rbarheter"},"content":{"rendered":"

Forskare vid University of Illinois Urbana-Champaign (UIUC) fann att AI-agenter som drivs av GPT-4 autonomt kan utnyttja s\u00e5rbarheter i cybers\u00e4kerheten.<\/strong><\/p>\n

I takt med att AI-modellerna blir allt kraftfullare kan de anv\u00e4ndas till b\u00e5de gott och ont. LLM:er som GPT-4 anv\u00e4nds allt oftare f\u00f6r att beg\u00e5 cyberbrott, med Googles prognoser<\/a> att AI kommer att spela en stor roll n\u00e4r det g\u00e4ller att beg\u00e5 och f\u00f6rhindra dessa attacker.<\/p>\n

Hotet fr\u00e5n AI-driven cyberbrottslighet<\/a> har h\u00f6jts i takt med att LLM:erna g\u00e5r bortom enkla prompt-response-interaktioner och agerar som autonoma AI-agenter.<\/p>\n

I deras papper<\/a>f\u00f6rklarade forskarna hur de testade AI-agenters f\u00f6rm\u00e5ga att utnyttja identifierade \"endags\"-s\u00e5rbarheter.<\/p>\n

En endagss\u00e5rbarhet \u00e4r en s\u00e4kerhetsbrist i ett programvarusystem som officiellt har identifierats och offentliggjorts, men som \u00e4nnu inte har \u00e5tg\u00e4rdats eller patchats av programvarans skapare.<\/p>\n

Under denna tid f\u00f6rblir programvaran s\u00e5rbar, och d\u00e5liga akt\u00f6rer med r\u00e4tt kompetens kan dra nytta av den.<\/p>\n

N\u00e4r en endagss\u00e5rbarhet identifieras beskrivs den i detalj med hj\u00e4lp av CVE-standarden (Common Vulnerabilities and Exposures). CVE \u00e4r t\u00e4nkt att lyfta fram detaljerna i de s\u00e5rbarheter som beh\u00f6ver \u00e5tg\u00e4rdas, men l\u00e5ter ocks\u00e5 skurkarna veta var s\u00e4kerhetsluckorna finns.<\/p>\n

\n

Vi visade att LLM-agenter sj\u00e4lvst\u00e4ndigt kan hacka l\u00e5tsaswebbplatser, men kan de utnyttja verkliga s\u00e5rbarheter?<\/p>\n

Vi visar att GPT-4 klarar av verkliga exploateringar, d\u00e4r andra modeller och s\u00e5rbarhetsskannrar med \u00f6ppen k\u00e4llkod misslyckas.<\/p>\n

Papper: https:\/\/t.co\/utbmMdYfmu<\/a><\/p>\n

1\/7 https:\/\/t.co\/SAhdvZc8le<\/a><\/p>\n

- Daniel Kang (@daniel_d_kang) 16 april 2024<\/a><\/p><\/blockquote>\n