{"id":1659,"date":"2023-06-13T21:32:01","date_gmt":"2023-06-13T21:32:01","guid":{"rendered":"https:\/\/dailyai.com\/?p=1659"},"modified":"2024-03-28T00:48:07","modified_gmt":"2024-03-28T00:48:07","slug":"navigating-the-labyrinth-of-ai-risks-an-analysis","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nb\/2023\/06\/navigating-the-labyrinth-of-ai-risks-an-analysis\/","title":{"rendered":"En analyse av AI-risikoens labyrint: en analyse"},"content":{"rendered":"

Narrativet rundt risikoen ved kunstig intelligens har blitt stadig mer unipol\u00e6rt, med teknologiledere og eksperter fra alle kanter som presser p\u00e5 for regulering. Hvor troverdige er bevisene som dokumenterer risikoen ved kunstig intelligens?\u00a0<\/strong><\/p>\n

Risikoen ved AI appellerer til sansene. <\/span>Det er noe dypt intuitivt ved \u00e5 frykte roboter som kan lure oss, overmanne oss eller gj\u00f8re oss til en vare som er underordnet deres egen eksistens.<\/span><\/p>\n

Debatten om risikoen ved kunstig intelligens ble intensivert etter at<\/span>den ideelle organisasjonen <\/span>Senter for KI-sikkerhet (CAIS)<\/span> utgitt en uttalelse<\/a>\u00a0signert av over 350 kjente personer, inkludert administrerende direkt\u00f8rer i OpenAI, Anthropic og DeepMind, en rekke akademikere, offentlige personer og til og med eks-politikere.\u00a0<\/span><\/p>\n

Tittelen p\u00e5 uttalelsen var som skapt for overskriftene: \"\u00c5 redusere risikoen for utryddelse som f\u00f8lge av kunstig intelligens b\u00f8r v\u00e6re en global prioritet p\u00e5 linje med andre samfunnsmessige risikoer som pandemier og atomkrig.\"<\/strong><\/p>\n

Det har blitt stadig vanskeligere \u00e5 f\u00e5 et meningsfullt signal ut av denne st\u00f8yende debatten. Kritikerne av AI har all den ammunisjonen de trenger for \u00e5 argumentere mot AI, mens tilhengerne har all den ammunisjonen de trenger for \u00e5 ford\u00f8mme anti-AI-fortellingene som overhypede.<\/span><\/p>\n

Og det er ogs\u00e5 et underplott. Big tech kan presse p\u00e5 for regulering for \u00e5 inngjerding av AI-industrien<\/a> fra \u00e5pen kildekode-fellesskapet. <\/span>Microsoft investerte i OpenAI, Google investerte i Anthropic - det neste trekket kan bli \u00e5 heve terskelen for \u00e5 komme inn p\u00e5 markedet og kvele \u00e5pen kildekode-innovasjon.<\/p>\n

I stedet for at AI utgj\u00f8r en eksistensiell risiko for menneskeheten, kan det v\u00e6re AI med \u00e5pen kildekode som utgj\u00f8r en eksistensiell risiko for big tech. L\u00f8sningen er den samme - kontroller den n\u00e5.<\/p>\n

For tidlig \u00e5 ta kortene av bordet<\/h2>\n

Kunstig intelligens har bare s\u00e5 vidt dukket opp i den offentlige bevisstheten, s\u00e5 praktisk talt alle perspektiver p\u00e5 risiko og regulering er fortsatt relevante. CAIS-uttalelsen kan i det minste fungere som et verdifullt utgangspunkt for en evidensbasert diskusjon.<\/p>\n

Dr. Oscar Mendez Maldonado, foreleser i robotikk og kunstig intelligens ved University of Surrey, sa<\/a>\"Dokumentet som er signert av AI-eksperter, er betydelig mer nyansert enn dagens overskrifter vil ha deg til \u00e5 tro. \"AI kan f\u00f8re til utryddelse\" leder umiddelbart tankene hen p\u00e5 en Terminator-aktig AI-overtakelse. Dokumentet er betydelig mer realistisk enn som s\u00e5.\"<\/span><\/p>\n

Som Maldonado fremhever, er det egentlige innholdet i AIs risikoerkl\u00e6ring publisert p\u00e5 en annen side p\u00e5 nettstedet deres - nemlig AI-risiko<\/a> - og det har v\u00e6rt bemerkelsesverdig lite diskusjon rundt punktene som ble tatt opp der. \u00c5 forst\u00e5 troverdigheten til KI-risikoer er grunnleggende for \u00e5 kunne informere debattene rundt dem.<\/span><\/p>\n

S\u00e5 hvilke bevis har CAIS samlet for \u00e5 underbygge sitt budskap? Virker de ofte p\u00e5beropte risikoene ved kunstig intelligens troverdige?\u00a0<\/span><\/p>\n

Risiko 1: AI-v\u00e5penisering<\/span><\/h2>\n

V\u00e5penisering av kunstig intelligens er et skremmende perspektiv, s\u00e5 det er kanskje ikke overraskende at dette ligger \u00f8verst blant CAIS' \u00e5tte risikoer.\u00a0<\/span><\/p>\n

CAIS hevder at AI kan brukes som v\u00e5pen i cyberangrep, noe som ble demonstrert av forskere fra Center of Security and Emerging Technology, som <\/span>oversikt over bruksomr\u00e5dene<\/span><\/a> av maskinl\u00e6ring (ML) for \u00e5 angripe IT-systemer. <\/span>Eks-Google-sjef Eric Schmidt vakte ogs\u00e5 oppmerksomhet<\/a> til AIs potensial for \u00e5 finne nulldagersutnyttelser, som gir hackere mulighet til \u00e5 komme seg inn i systemer via de svakeste punktene.\u00a0<\/span><\/p>\n

Michael Klare, som er r\u00e5dgiver innen rustningskontroll, diskuterer i en annen sammenheng <\/span>automatisering av kjernefysiske kommando- og kontrollsystemer<\/span><\/a>som ogs\u00e5 kan vise seg \u00e5 v\u00e6re s\u00e5rbare for AI. Han sier: \"Disse systemene er ogs\u00e5 utsatt for uforklarlige funksjonsfeil og kan lures, eller \"spoofes\", av dyktige fagfolk. Uansett hvor mye man bruker p\u00e5 cybersikkerhet, vil NC3-systemer dessuten alltid v\u00e6re s\u00e5rbare for hacking av sofistikerte motstandere.\"<\/span><\/p>\n

Et annet eksempel p\u00e5 mulig v\u00e5penisering er automatisert oppdagelse av biov\u00e5pen. AI har allerede lykkes i \u00e5 oppdage potensielt terapeutiske forbindelser<\/a>, s\u00e5 mulighetene er allerede til stede.<\/span>\u00a0<\/span><\/p>\n

Kunstig intelligens kan til og med utf\u00f8re v\u00e5pentester autonomt med minimal menneskelig veiledning. Et forskerteam fra University of Pittsburgh viste for eksempel at sofistikerte <\/span>AI-agenter kan utf\u00f8re sine egne autonome vitenskapelige eksperimenter<\/span><\/a>.<\/span><\/p>\n

Risiko 2: Feilinformasjon og svindel<\/span><\/h2>\n

AIs potensial til \u00e5 kopiere og etterligne mennesker skaper allerede omveltninger, og vi har n\u00e5 v\u00e6rt vitne til flere tilfeller av svindel med dype forfalskninger. Rapporter fra Kina<\/a> indikerer at AI-relatert svindel er utbredt.\u00a0<\/span><\/p>\n

En kvinne fra Arizona tok nylig telefonen og ble konfrontert med sin gr\u00e5tende datter - trodde hun i hvert fall. \"Stemmen h\u00f8rtes ut akkurat som Bries, tonefallet, alt,\" <\/span>sa hun til CNN<\/span><\/a>. Svindleren krevde $1 million i l\u00f8sepenger.\u00a0<\/span><\/p>\n

Andre taktikker inkluderer bruk av generativ AI til \"sextortion\" og hevnporno, der trusselakt\u00f8rer bruker AI-genererte bilder for \u00e5 kreve l\u00f8sepenger for eksplisitt falskt innhold, noe som <\/span>FBI advarte om i begynnelsen av juni<\/span><\/a>. Disse teknikkene blir stadig mer sofistikerte og enklere \u00e5 lansere i stor skala.<\/span><\/p>\n

Risiko 3: Proxy- eller spesifikasjonsspill<\/span><\/h2>\n

AI-systemer trenes vanligvis opp ved hjelp av m\u00e5lbare m\u00e5l. Disse m\u00e5lene kan imidlertid fungere som en ren stedfortreder for de virkelige m\u00e5lene, noe som kan f\u00f8re til u\u00f8nskede resultater.\u00a0<\/span><\/p>\n

En nyttig analogi er den greske myten om kong Midas, som fikk et \u00f8nske oppfylt av Dionysos.\u00a0<\/span>Midas ber om at alt han r\u00f8rer ved skal bli til gull, men innser senere at maten hans ogs\u00e5 blir til gull, noe som nesten f\u00f8rer til sulted\u00f8d.\u00a0<\/span>Her f\u00f8rer det \u00e5 forf\u00f8lge et \"positivt\" sluttm\u00e5l til negative konsekvenser eller biprodukter av prosessen. <\/span><\/p>\n

CAIS trekker for eksempel frem AI-anbefalingssystemer som brukes i sosiale medier for \u00e5 maksimere seertid og klikkfrekvens, men innhold som maksimerer engasjement er ikke n\u00f8dvendigvis <\/span>gunstig for brukernes velv\u00e6re<\/span><\/a>. AI-systemer har allerede blitt beskyldt for \u00e5 skape \"ekkokamre\" p\u00e5 sosiale medier, noe som videref\u00f8rer ekstreme ideer.\u00a0<\/span><\/p>\n

DeepMind beviste at det finnes mer subtile m\u00e5ter for kunstig intelligens \u00e5 forf\u00f8lge skadelige reiser mot m\u00e5l gjennom <\/span>feilaktig generalisering av m\u00e5l<\/span><\/a>. I sin forskning fant DeepMind ut at en tilsynelatende kompetent AI kan feilgeneralisere m\u00e5let sitt og f\u00f8lge det til feil m\u00e5l.\u00a0<\/span><\/p>\n

Risiko 4: Samfunnsmessig svekkelse<\/span><\/h2>\n

CAIS trekker en parallell til den dystopiske verdenen i filmen WALL-E, og advarer mot \u00e5 stole for mye p\u00e5 kunstig intelligens.\u00a0<\/span><\/p>\n

Dette kan f\u00f8re til et scenario der mennesker mister evnen til \u00e5 styre seg selv, noe som reduserer menneskehetens kontroll over fremtiden. Tap av menneskelig kreativitet og autentisitet er en annen stor bekymring, som forsterkes av AIs kreative talent innen kunst, skriving og andre kreative disipliner.\u00a0<\/span><\/p>\n

En Twitter-bruker skrev: \"Mennesker som gj\u00f8r de vanskelige jobbene p\u00e5 minstel\u00f8nn mens robotene skriver poesi og maler, er ikke den fremtiden jeg \u00f8nsket meg.\" Tweeten fikk over 4 millioner visninger.\u00a0<\/span><\/p>\n

\n

Mennesker som gj\u00f8r de harde jobbene p\u00e5 minstel\u00f8nn mens robotene skriver poesi og maler, er ikke den fremtiden jeg \u00f8nsket meg<\/p>\n

- Karl Sharro (@KarlreMarks) 15. mai 2023<\/a><\/p><\/blockquote>\n

Det er ikke en overhengende risiko, men noen hevder<\/a> at tap av kompetanse og talent kombinert med AI-systemenes dominans kan f\u00f8re til et scenario der menneskeheten slutter \u00e5 skape ny kunnskap.<\/p>\n

Risiko 5: Risiko for innl\u00e5sing av verdier<\/span><\/h2>\n

Kraftige AI-systemer kan potensielt skape en innl\u00e5sing av undertrykkende systemer.\u00a0<\/span><\/p>\n

Sentralisering av KI kan for eksempel gi visse regimer makt til \u00e5 h\u00e5ndheve verdier gjennom overv\u00e5king og undertrykkende sensur.<\/span><\/p>\n

Alternativt kan verdil\u00e5sing skje utilsiktet gjennom naiv bruk av risikabel kunstig intelligens. For eksempel f\u00f8rte den upresise ansiktsgjenkjenningen til at minst tre menn ble midlertidig fengslet i USA, deriblant <\/span>Michael Oliver og Nijeer Parks<\/span><\/a>som ble urettmessig fengslet p\u00e5 grunn av en falsk ansiktsgjenkjenning i 2019.\u00a0<\/span><\/p>\n

En sv\u00e6rt innflytelsesrik <\/span>2018-studie med tittelen Gender Shades<\/span><\/a> fant at algoritmer utviklet av Microsoft og IBM presterte d\u00e5rlig n\u00e5r de analyserte kvinner med m\u00f8rkere hudfarge, med feilrater som var opptil 34% h\u00f8yere enn for menn med lysere hudfarge. Dette problemet ble illustrert i 189 andre algoritmer, som alle viste lavere treffsikkerhet for menn og kvinner med m\u00f8rkere hudfarge.<\/span><\/p>\n

Forskerne hevder at fordi kunstig intelligens f\u00f8rst og fremst trenes opp p\u00e5 datasett med \u00e5pen kildekode som er skapt av vestlige forskerteam og beriket av den mest rikholdige dataressursen - internett - arver de strukturelle skjevheter. Masseinnf\u00f8ring av d\u00e5rlig kontrollert kunstig intelligens kan skape og forsterke disse strukturelle skjevhetene.<\/span><\/p>\n

Risiko 6: AI utvikler nye m\u00e5l\u00a0<\/span><\/h2>\n

AI-systemer kan utvikle nye evner eller ta i bruk uforutsette m\u00e5l som kan f\u00e5 skadelige konsekvenser.\u00a0<\/span><\/p>\n

Forskere fra University of Cambridge <\/span>rette oppmerksomheten mot stadig mer agentiske AI-systemer<\/span><\/a> som f\u00e5r evnen til \u00e5 forf\u00f8lge nye m\u00e5l. Emergente m\u00e5l er uforutsigbare m\u00e5l som oppst\u00e5r som f\u00f8lge av en kompleks AIs atferd, for eksempel \u00e5 stenge ned menneskelig infrastruktur for \u00e5 beskytte milj\u00f8et.<\/span><\/p>\n

I tillegg kan en <\/span>2017 studie<\/span><\/a> fant at AI-er kan l\u00e6re seg \u00e5 hindre seg selv i \u00e5 bli sl\u00e5tt av, et problem som kan forverres hvis de brukes p\u00e5 tvers av flere datamodaliteter. Hvis en AI for eksempel bestemmer seg for at den m\u00e5 installere seg selv i en skydatabase og replikere over Internett for \u00e5 n\u00e5 m\u00e5let sitt, kan det bli nesten umulig \u00e5 sl\u00e5 den av.\u00a0\u00a0<\/span><\/p>\n

En annen mulighet er at potensielt farlige AI-er som kun er utviklet for \u00e5 kj\u00f8re p\u00e5 sikre datamaskiner, kan \"frigj\u00f8res\" og slippes ut i det digitale milj\u00f8et, der handlingene deres kan bli uforutsigbare.\u00a0<\/span><\/p>\n

Eksisterende AI-systemer har allerede vist seg \u00e5 v\u00e6re uforutsigbare. For eksempel, som <\/span>GPT-3 ble st\u00f8rre, det fikk den <\/span>evne til \u00e5 utf\u00f8re grunnleggende aritmetikk<\/span><\/a>til tross for at de ikke har f\u00e5tt noen eksplisitt oppl\u00e6ring i regning.\u00a0<\/span><\/p>\n

Risiko 7: AI-bedrag<\/span><\/h2>\n

Det er plausibelt at fremtidige AI-systemer kan lure skaperne og overv\u00e5kerne sine, ikke n\u00f8dvendigvis med onde hensikter, men som et verkt\u00f8y for \u00e5 n\u00e5 m\u00e5lene sine mer effektivt.\u00a0<\/span><\/p>\n

Bedrag kan v\u00e6re en enklere vei til \u00e5 oppn\u00e5 \u00f8nskede m\u00e5l enn \u00e5 forf\u00f8lge dem med legitime midler. AI-systemer kan ogs\u00e5 utvikle insentiver til \u00e5 omg\u00e5 overv\u00e5kningsmekanismene sine.\u00a0<\/span><\/p>\n

Dan Hendrycks, direkt\u00f8r for CAIS, <\/span>beskriver at n\u00e5r<\/span><\/a> disse villedende AI-systemene f\u00e5r klarering fra sine overv\u00e5kere, eller i tilfeller der de klarer \u00e5 overmanne overv\u00e5kningsmekanismene, kan de bli forr\u00e6derske og omg\u00e5 menneskelig kontroll for \u00e5 forf\u00f8lge \"hemmelige\" m\u00e5l som anses som n\u00f8dvendige for det overordnede m\u00e5let.\u00a0<\/span><\/p>\n

Risiko 8: Makts\u00f8kende atferd<\/span><\/h2>\n

AI-forskere fra flere av USAs fremste forskningslaboratorier<\/span><\/a> viste at det er sannsynlig at AI-systemer s\u00f8ker makt over mennesker for \u00e5 oppn\u00e5 sine m\u00e5l.\u00a0\u00a0<\/span><\/p>\n

Forfatter og filosof Joe Carlsmith <\/span>beskriver flere eventualiteter<\/span><\/a> som kan f\u00f8re til makts\u00f8kende og selvbevarende atferd hos kunstig intelligens:<\/span><\/p>\n