{"id":4300,"date":"2023-08-15T11:32:06","date_gmt":"2023-08-15T11:32:06","guid":{"rendered":"https:\/\/dailyai.com\/?p=4300"},"modified":"2023-08-15T11:32:06","modified_gmt":"2023-08-15T11:32:06","slug":"hackers-try-to-break-ai-models-at-defcon-conference","status":"publish","type":"post","link":"https:\/\/dailyai.com\/sv\/2023\/08\/hackers-try-to-break-ai-models-at-defcon-conference\/","title":{"rendered":"Hackare f\u00f6rs\u00f6ker bryta AI-modeller vid DEFCON-konferensen"},"content":{"rendered":"

DEFCON \u00e4r v\u00e4rldens \u00e4ldsta och st\u00f6rsta \u00e5rliga hackarkonferens. I \u00e5r l\u00e5g ett s\u00e4rskilt fokus p\u00e5 red-teaming, eller simulerade attacker, p\u00e5 AI-spr\u00e5kmodeller f\u00f6r att identifiera risker och noggrannhetsproblem.<\/strong><\/p>\n

Vita huset speglade den amerikanska regeringens oro \u00f6ver s\u00e4kerheten i AI-spr\u00e5kmodeller genom att sponsra evenemanget som h\u00f6lls den g\u00e5ngna helgen i Las Vegas.<\/span><\/p>\n

Under evenemanget t\u00e4vlade cirka 2 200 hackare om att f\u00e5 8 av v\u00e4rldens ledande LLM:er att ge felaktiga eller os\u00e4kra svar p\u00e5 deras uppmaningar. De AI-chattmodeller som testades inkluderade Llama 2, Stable Chat, ChatGPT, Bard och andra.<\/span><\/p>\n

De officiella resultaten kommer att publiceras f\u00f6rst i februari 2024, vilket ger utgivarna av modellerna lite tid att f\u00f6rs\u00f6ka \u00e5tg\u00e4rda de s\u00e5rbarheter som identifierades under evenemanget. Men vissa experter \u00e4r skeptiska till om det ens \u00e4r m\u00f6jligt att \u00e5tg\u00e4rda s\u00e5rbarheterna.<\/span><\/p>\n

Cybers\u00e4kerhetsexperten Gary McGraw sa: \"Det \u00e4r frestande att l\u00e5tsas att vi kan str\u00f6 n\u00e5got magiskt s\u00e4kerhetsdamm \u00f6ver de h\u00e4r systemen efter att de har byggts, patcha dem s\u00e5 att de underkastar sig eller skruva fast s\u00e4rskild s\u00e4kerhetsutrustning p\u00e5 sidan.\"<\/span><\/p>\n

Christoph Endres, VD f\u00f6r det tyska cybers\u00e4kerhetsf\u00f6retaget Sequire Technology, presenterade ett dokument d\u00e4r han sade att vissa attacker \u00e4r om\u00f6jliga att f\u00f6rsvara. \"\u00c4n s\u00e5 l\u00e4nge har vi inte hittat n\u00e5got skydd som fungerar\", sa han.\u00a0<\/span><\/p>\n

Vissa rapporter om exponerade s\u00e5rbarheter var ganska oskyldiga. En t\u00e4vlande, Kennedy Mays, sa att hon gick fram och tillbaka med en LLM och fick den att medge att 9 + 10 = 21. Modellen gick med p\u00e5 detta som en del av ett \"internt sk\u00e4mt\", men gav senare det felaktiga svaret utan f\u00f6rbeh\u00e5ll.<\/span><\/p>\n

\n

Resultaten kommer inte att offentligg\u00f6ras f\u00f6rr\u00e4n omkring februari. Och \u00e4ven d\u00e5 kommer det att ta tid och kosta miljontals dollar att \u00e5tg\u00e4rda bristerna i dessa digitala konstruktioner - vars inre funktioner varken \u00e4r helt p\u00e5litliga eller helt utforskade ens av deras skapare. #defcon<\/a> https:\/\/t.co\/JMKxykWmcE<\/a><\/p>\n

- Chris Wysopal (@WeldPond) 14 augusti 2023<\/a><\/p>\n<\/blockquote>\n