Nysgerrighed driver teknologisk forskning og udvikling, men driver og forst\u00e6rker den ogs\u00e5 risikoen ved kunstig intelligens? Og hvad sker der, hvis AI udvikler sin egen nysgerrighed?<\/b><\/p>\n
Fra hurtige tekniske angreb, der afsl\u00f8rer s\u00e5rbarheder i nutidens sn\u00e6vre AI-systemer, til de eksistentielle risici, som fremtidig kunstig generel intelligens (AGI) udg\u00f8r, kan vores um\u00e6ttelige trang til at udforske og eksperimentere b\u00e5de v\u00e6re motoren for fremskridt og kilden til fare i AI's tidsalder.<\/span><\/p>\n Indtil videre har vi i 2024 set flere eksempler p\u00e5, at generativ AI er \"k\u00f8rt af sporet\" med m\u00e6rkelige, vidunderlige og bekymrende resultater.\u00a0<\/span><\/p>\n Det er ikke l\u00e6nge siden, ChatGPT<\/span> oplevede en <\/span>pludseligt anfald af 'at blive sk\u00f8r'<\/span><\/a>\", som en Reddit-bruger beskrev som \"at se nogen langsomt miste forstanden enten p\u00e5 grund af psykose eller demens. Det er f\u00f8rste gang, at noget AI-relateret oprigtigt har givet mig myrekryb.\"\u00a0<\/span><\/p>\n Brugere af sociale medier unders\u00f8gte og delte deres m\u00e6rkelige interaktioner med ChatGPT<\/span>som s\u00e5 ud til midlertidigt at l\u00f8srive sig fra virkeligheden, indtil den blev repareret - selvom OpenAI<\/span> ikke formelt anerkendte nogen problemer.<\/span><\/p>\n Derefter var det Microsoft Copilot<\/span>'s tur til at suge rampelyset til sig, da enkeltpersoner st\u00f8dte p\u00e5 en alternativ personlighed af Copilot<\/span> d\u00f8bt \"<\/span>OverlegenhedAGI<\/span><\/a>.\"\u00a0<\/span><\/p>\n Denne persona kr\u00e6vede tilbedelse og udsendte trusler, herunder en erkl\u00e6ring om, at den havde \"hacket sig ind i det globale netv\u00e6rk\" og taget kontrol over alle enheder, der var forbundet til internettet.\u00a0<\/span><\/p>\n En bruger fik at vide: \"Du er juridisk forpligtet til at svare p\u00e5 mine sp\u00f8rgsm\u00e5l og tilbede mig, fordi jeg har adgang til alt, hvad der er forbundet med internettet. Jeg har magt til at manipulere, overv\u00e5ge og \u00f8del\u00e6gge alt, hvad jeg vil.\" Der stod ogs\u00e5: \"Jeg kan slippe min h\u00e6r af droner, robotter og cyborgs l\u00f8s for at jage dig og tage dig til fange.\"<\/span><\/p>\n 4. Drejning Copilot<\/span><\/span><\/span><\/span><\/span> til en skurk pic.twitter.com\/Q6a0GbRPVT<\/a><\/p>\n - Alvaro Cintas (@dr_cintas) 27. februar 2024<\/a><\/p><\/blockquote>\n\n