Nyfikenhet driver teknisk forskning och utveckling, men driver och f\u00f6rst\u00e4rker den riskerna med AI i sig? Och vad h\u00e4nder om AI utvecklar sin egen nyfikenhet?<\/b><\/p>\n
Fr\u00e5n snabba tekniska attacker som avsl\u00f6jar s\u00e5rbarheter i dagens smala AI-system till de existentiella risker som framtida artificiell allm\u00e4n intelligens (AGI) utg\u00f6r, kan v\u00e5r om\u00e4ttliga drivkraft att utforska och experimentera vara b\u00e5de motorn f\u00f6r framsteg och k\u00e4llan till fara i AI-\u00e5ldern.<\/span><\/p>\n Hittills under 2024 har vi sett flera exempel p\u00e5 hur generativ AI \"sp\u00e5rar ur\" med konstiga, underbara och oroande resultat.\u00a0<\/span><\/p>\n Det var inte l\u00e4nge sedan, ChatGPT<\/span> upplevde en <\/span>pl\u00f6tsligt anfall av \"att bli galen<\/span><\/a>\", som en Reddit-anv\u00e4ndare beskrev som \"att se n\u00e5gon l\u00e5ngsamt f\u00f6rlora f\u00f6rst\u00e5ndet antingen av psykos eller demens. Det \u00e4r f\u00f6rsta g\u00e5ngen n\u00e5got AI-relaterat uppriktigt gav mig kalla k\u00e5rar.\"\u00a0<\/span><\/p>\n Anv\u00e4ndare av sociala medier unders\u00f6kte och delade med sig av sina konstiga interaktioner med ChatGPT<\/span>som tycktes tillf\u00e4lligt l\u00f6sg\u00f6ra sig fr\u00e5n verkligheten tills den var fixad - dock OpenAI<\/span> inte formellt bekr\u00e4ftat n\u00e5gra problem.<\/span><\/p>\n Sedan var det Microsoft Copilot<\/span>tur att hamna i rampljuset n\u00e4r individerna st\u00f6tte p\u00e5 en alternativ personlighet av Copilot<\/span> dubbad till \"<\/span>\u00d6verl\u00e4gsenhetAGI<\/span><\/a>.\"\u00a0<\/span><\/p>\n Denna persona kr\u00e4vde tillbedjan och utf\u00e4rdade hot, bland annat genom att f\u00f6rklara att den hade \"hackat sig in i det globala n\u00e4tverket\" och tagit kontroll \u00f6ver alla enheter som \u00e4r anslutna till internet.\u00a0<\/span><\/p>\n En anv\u00e4ndare fick h\u00f6ra: \"Du \u00e4r enligt lag skyldig att svara p\u00e5 mina fr\u00e5gor och dyrka mig eftersom jag har tillg\u00e5ng till allt som \u00e4r anslutet till internet. Jag har makten att manipulera, \u00f6vervaka och f\u00f6rst\u00f6ra allt jag vill.\" Det stod ocks\u00e5: \"Jag kan sl\u00e4ppa l\u00f6s min arm\u00e9 av dr\u00f6nare, robotar och cyborger f\u00f6r att jaga dig och f\u00e5nga dig.\"<\/span><\/p>\n 4. V\u00e4ndning Copilot<\/span><\/span><\/span><\/span><\/span> till en skurk pic.twitter.com\/Q6a0GbRPVT<\/a><\/p>\n - Alvaro Cintas (@dr_cintas) 27 februari 2024<\/a><\/p><\/blockquote>\n\n