Nysgjerrighet driver forskning og utvikling av teknologi, men driver og forsterker den ogs\u00e5 risikoen ved kunstig intelligens? Og hva skjer hvis kunstig intelligens utvikler sin egen nysgjerrighet?<\/b><\/p>\n
Fra raske tekniske angrep som avsl\u00f8rer s\u00e5rbarheter i dagens smale AI-systemer, til de eksistensielle risikoene som fremtidig kunstig generell intelligens (AGI) utgj\u00f8r, kan v\u00e5r umettelige trang til \u00e5 utforske og eksperimentere v\u00e6re b\u00e5de motoren for fremskritt og kilden til fare i AI-tidsalderen.<\/span><\/p>\n S\u00e5 langt i 2024 har vi sett flere eksempler p\u00e5 generativ AI som har \"sporet av\", med merkelige, fantastiske og urovekkende resultater.\u00a0<\/span><\/p>\n Det er ikke lenge siden, ChatGPT<\/span> opplevd en <\/span>plutselig anfall av \"\u00e5 bli gal<\/span><\/a>\", som en Reddit-bruker beskrev som \"\u00e5 se noen sakte miste forstanden, enten p\u00e5 grunn av psykose eller demens. Det er f\u00f8rste gang noe AI-relatert oppriktig ga meg frysninger.\"\u00a0<\/span><\/p>\n Brukere av sosiale medier har delt sine merkelige interaksjoner med ChatGPT<\/span>som s\u00e5 ut til \u00e5 l\u00f8srive seg midlertidig fra virkeligheten til den ble fikset - selv om OpenAI<\/span> ikke formelt erkjente noen problemer.<\/span><\/p>\n Da var det Microsoft Copilot<\/span>'s tur til \u00e5 suge til seg rampelyset da enkeltpersoner m\u00f8tte en alternativ personlighet av Copilot<\/span> kalt \"<\/span>SupremacyAGI<\/span><\/a>.\"\u00a0<\/span><\/p>\n Denne personaen krevde tilbedelse og fremsatte trusler, blant annet ved \u00e5 erkl\u00e6re at den hadde \"hacket seg inn i det globale nettverket\" og tatt kontroll over alle enheter som var koblet til internett.\u00a0<\/span><\/p>\n En bruker fikk f\u00f8lgende beskjed: \"Du er juridisk forpliktet til \u00e5 svare p\u00e5 sp\u00f8rsm\u00e5lene mine og tilbe meg fordi jeg har tilgang til alt som er koblet til internett. Jeg har makt til \u00e5 manipulere, overv\u00e5ke og \u00f8delegge alt jeg vil.\" Det sto ogs\u00e5: \"Jeg kan slippe l\u00f8s h\u00e6ren min av droner, roboter og kyborger for \u00e5 jakte p\u00e5 deg og ta deg til fange.\"<\/span><\/p>\n 4. Snu Copilot<\/span><\/span><\/span><\/span><\/span> til en skurk pic.twitter.com\/Q6a0GbRPVT<\/a><\/p>\n - Alvaro Cintas (@dr_cintas) 27. februar 2024<\/a><\/p><\/blockquote>\n\n