{"id":1659,"date":"2023-06-13T21:32:01","date_gmt":"2023-06-13T21:32:01","guid":{"rendered":"https:\/\/dailyai.com\/?p=1659"},"modified":"2024-03-28T00:48:07","modified_gmt":"2024-03-28T00:48:07","slug":"navigating-the-labyrinth-of-ai-risks-an-analysis","status":"publish","type":"post","link":"https:\/\/dailyai.com\/da\/2023\/06\/navigating-the-labyrinth-of-ai-risks-an-analysis\/","title":{"rendered":"At navigere i labyrinten af AI-risici: en analyse"},"content":{"rendered":"

Fort\u00e6llingen om risikoen ved kunstig intelligens er blevet mere og mere unipol\u00e6r, og teknologiledere og eksperter fra alle hj\u00f8rner presser p\u00e5 for at f\u00e5 regulering. Hvor trov\u00e6rdige er de beviser, der dokumenterer AI-risici?\u00a0<\/strong><\/p>\n

Risikoen ved AI appellerer til sanserne. <\/span>Der er noget dybt intuitivt ved at frygte robotter, der kan bedrage os, overmande os eller g\u00f8re os til en vare, der er sekund\u00e6r i forhold til deres egen eksistens.<\/span><\/p>\n

Debatterne om AI's risici blev intensiveret efter t<\/span>han nonprofit <\/span>Center for AI-sikkerhed (CAIS)<\/span> udgav en erkl\u00e6ring<\/a>\u00a0underskrevet af over 350 bem\u00e6rkelsesv\u00e6rdige personer, herunder CEO'erne for OpenAI, Anthropic og DeepMind, adskillige akademikere, offentlige personer og endda tidligere politikere.\u00a0<\/span><\/p>\n

Udtalelsens titel var bestemt til overskrifterne: \"At mindske risikoen for udryddelse p\u00e5 grund af AI b\u00f8r v\u00e6re en global prioritet p\u00e5 linje med andre samfundsm\u00e6ssige risici som pandemier og atomkrig.\"<\/strong><\/p>\n

Det er blevet stadig sv\u00e6rere at redde et meningsfuldt signal fra denne st\u00f8jende debat. Kritikerne af AI har al den ammunition, de har brug for til at argumentere imod, mens tilh\u00e6ngerne har alt, hvad de har brug for til at ford\u00f8mme anti-AI-fort\u00e6llinger som overdrevne.<\/span><\/p>\n

Og der er ogs\u00e5 et underplot. Big tech kunne presse p\u00e5 for regulering for at indhegning af AI-industrien<\/a> fra open source-f\u00e6llesskabet. <\/span>Microsoft investerede i OpenAI, Google investerede i Anthropic - det n\u00e6ste skridt kunne v\u00e6re at h\u00e6ve adgangsbarrieren og kv\u00e6le open source-innovation.<\/p>\n

I stedet for at AI udg\u00f8r en eksistentiel risiko for menneskeheden, er det m\u00e5ske open source AI, der udg\u00f8r en eksistentiel risiko for big tech. L\u00f8sningen er den samme - kontroll\u00e9r det nu.<\/p>\n

For tidligt at tage kortene af bordet<\/h2>\n

AI er f\u00f8rst lige dukket op i den offentlige bevidsthed, s\u00e5 stort set alle perspektiver p\u00e5 risici og regulering er stadig relevante. CAIS-erkl\u00e6ringen kan i det mindste fungere som et v\u00e6rdifuldt udgangspunkt for en evidensbaseret diskussion.<\/p>\n

Dr. Oscar Mendez Maldonado, lektor i robotteknologi og kunstig intelligens ved University of Surrey, sagde<\/a>\"Dokumentet, der er underskrevet af AI-eksperter, er betydeligt mere nuanceret, end de nuv\u00e6rende overskrifter vil have dig til at tro. \"AI kan for\u00e5rsage udryddelse\" leder straks tankerne hen p\u00e5 en terminator-agtig AI-overtagelse. Dokumentet er betydeligt mere realistisk end det.\"<\/span><\/p>\n

Som Maldonado fremh\u00e6ver, er den virkelige substans i AI-risikoudtalelsen offentliggjort p\u00e5 en anden side af deres hjemmeside -. AI-risiko<\/a> - og der har v\u00e6ret bem\u00e6rkelsesv\u00e6rdigt lidt diskussion om de punkter, der blev rejst der. At forst\u00e5 trov\u00e6rdigheden af AI-risici er grundl\u00e6ggende for at informere debatterne omkring dem.<\/span><\/p>\n

S\u00e5 hvilke beviser har CAIS indsamlet for at underbygge sit budskab? Virker AI's ofte fremh\u00e6vede risici trov\u00e6rdige?\u00a0<\/span><\/p>\n

Risiko 1: AI som v\u00e5ben<\/span><\/h2>\n

At g\u00f8re AI til et v\u00e5ben er et skr\u00e6mmende perspektiv, s\u00e5 det er m\u00e5ske ikke overraskende, at det indtager f\u00f8rstepladsen blandt CAIS' 8 risici.\u00a0<\/span><\/p>\n

CAIS h\u00e6vder, at AI kan bruges som v\u00e5ben i cyberangreb, som demonstreret af forskere fra Center of Security and Emerging Technology, som <\/span>oversigt over anvendelser<\/span><\/a> af maskinl\u00e6ring (ML) til at angribe IT-systemer. <\/span>Eks-Google CEO Eric Schmidt tiltrak sig ogs\u00e5 opm\u00e6rksomhed<\/a> til AI's potentiale for at finde zero-day exploits, som giver hackere mulighed for at komme ind i systemer via deres svageste punkter.\u00a0<\/span><\/p>\n

P\u00e5 en anden m\u00e5de diskuterer Michael Klare, der r\u00e5dgiver om v\u00e5benkontrol, den <\/span>automatisering af nukleare kommando- og kontrolsystemer<\/span><\/a>som ogs\u00e5 kan vise sig at v\u00e6re s\u00e5rbare over for AI. Han siger: \"Disse systemer er ogs\u00e5 tilb\u00f8jelige til uforklarlige fejlfunktioner og kan narres eller \"spoofes\" af dygtige fagfolk. Uanset hvor meget der bruges p\u00e5 cybersikkerhed, vil NC3-systemer desuden altid v\u00e6re s\u00e5rbare over for hacking af sofistikerede modstandere.\"<\/span><\/p>\n

Et andet eksempel p\u00e5 mulig v\u00e5benbrug er automatiseret opdagelse af biov\u00e5ben. Det er allerede lykkedes AI at opdage potentielt terapeutiske forbindelser<\/a>s\u00e5 mulighederne er der allerede.<\/span>\u00a0<\/span><\/p>\n

AI'er kan endda udf\u00f8re v\u00e5bentest autonomt med minimal menneskelig vejledning. For eksempel viste et forskerhold fra University of Pittsburgh, at sofistikerede <\/span>AI-agenter kan udf\u00f8re deres egne autonome videnskabelige eksperimenter<\/span><\/a>.<\/span><\/p>\n

Risiko 2: Misinformation og svindel<\/span><\/h2>\n

AI's potentiale til at kopiere og efterligne mennesker skaber allerede omv\u00e6ltninger, og vi har nu v\u00e6ret vidne til flere tilf\u00e6lde af svindel med deep fakes. Rapporter fra Kina<\/a> indikerer, at AI-relateret svindel er udbredt.\u00a0<\/span><\/p>\n

En nylig sag involverede en kvinde fra Arizona, som tog telefonen for at blive konfronteret med sin hulkende datter - troede hun i hvert fald. \"Stemmen l\u00f8d pr\u00e6cis som Bries, tonefaldet, det hele\". <\/span>sagde hun til CNN<\/span><\/a>. Svindleren kr\u00e6vede en l\u00f8sesum p\u00e5 $1 millioner.\u00a0<\/span><\/p>\n

Andre taktikker omfatter brug af generativ AI til 'sextortion' og h\u00e6vnporno, hvor trusselsakt\u00f8rer bruger AI-genererede billeder til at kr\u00e6ve l\u00f8sepenge for eksplicit falsk indhold, som den <\/span>FBI advarede om i begyndelsen af juni<\/span><\/a>. Disse teknikker bliver stadig mere sofistikerede og lettere at lancere i stor skala.<\/span><\/p>\n

Risiko 3: Proxy- eller specifikationsspil<\/span><\/h2>\n

AI-systemer tr\u00e6nes normalt ved hj\u00e6lp af m\u00e5lbare m\u00e5ls\u00e6tninger. Men disse m\u00e5l kan fungere som en simpel proxy for sande m\u00e5l, hvilket f\u00f8rer til u\u00f8nskede resultater.\u00a0<\/span><\/p>\n

En nyttig analogi er den gr\u00e6ske myte om kong Midas, som fik et \u00f8nske opfyldt af Dionysos.\u00a0<\/span>Midas beder om, at alt, hvad han r\u00f8rer ved, bliver til guld, men indser senere, at hans mad ogs\u00e5 bliver til guld, hvilket n\u00e6sten f\u00f8rer til sulted\u00f8den.\u00a0<\/span>Her f\u00f8rer forf\u00f8lgelsen af et 'positivt' slutm\u00e5l til negative konsekvenser eller biprodukter af processen. <\/span><\/p>\n

For eksempel henleder CAIS opm\u00e6rksomheden p\u00e5 AI-anbefalingssystemer, der bruges p\u00e5 sociale medier til at maksimere seertid og klikrate, men indhold, der maksimerer engagement, er ikke n\u00f8dvendigvis <\/span>gavnlig for brugernes velbefindende<\/span><\/a>. AI-systemer er allerede blevet beskyldt for at isolere synspunkter p\u00e5 sociale medieplatforme for at skabe \"ekkokamre\", der videref\u00f8rer ekstreme ideer.\u00a0<\/span><\/p>\n

DeepMind beviste, at der er mere subtile m\u00e5der, hvorp\u00e5 AI'er kan forf\u00f8lge skadelige rejser til m\u00e5l gennem <\/span>forkert generalisering af m\u00e5l<\/span><\/a>. I deres forskning fandt DeepMind ud af, at en tilsyneladende kompetent AI kan fejlgeneralisere sit m\u00e5l og f\u00f8lge det til de forkerte sider.\u00a0<\/span><\/p>\n

Risiko 4: Samfundsm\u00e6ssig sv\u00e6kkelse<\/span><\/h2>\n

CAIS drager en parallel til den dystopiske verden i filmen WALL-E og advarer mod en overdreven afh\u00e6ngighed af AI.\u00a0<\/span><\/p>\n

Det kan f\u00f8re til et scenarie, hvor mennesker mister deres evne til at styre sig selv, hvilket reducerer menneskehedens kontrol over fremtiden. Tab af menneskelig kreativitet og autenticitet er en anden stor bekymring, som forst\u00e6rkes af AI's kreative talent inden for kunst, skrivning og andre kreative discipliner.\u00a0<\/span><\/p>\n

En Twitter-bruger sp\u00f8gte: \"Mennesker, der udf\u00f8rer det h\u00e5rde arbejde til mindstel\u00f8n, mens robotterne skriver digte og maler, er ikke den fremtid, jeg \u00f8nsker.\" Tweetet fik over 4 mio. visninger.\u00a0<\/span><\/p>\n

\n

Mennesker, der udf\u00f8rer det h\u00e5rde arbejde til mindstel\u00f8n, mens robotterne skriver digte og maler, er ikke den fremtid, jeg \u00f8nskede mig.<\/p>\n

- Karl Sharro (@KarlreMarks) 15. maj 2023<\/a><\/p><\/blockquote>\n

Enfeeblement er ikke en overh\u00e6ngende risiko, men Nogle h\u00e6vder<\/a> at tabet af f\u00e6rdigheder og talent kombineret med AI-systemernes dominans kan f\u00f8re til et scenarie, hvor menneskeheden holder op med at skabe ny viden.<\/p>\n

Risiko 5: Risiko for fastl\u00e5sning af v\u00e6rdier<\/span><\/h2>\n

Kraftfulde AI-systemer kan potentielt skabe en lock-in af undertrykkende systemer.\u00a0<\/span><\/p>\n

For eksempel kan AI-centralisering give visse regimer magt til at h\u00e5ndh\u00e6ve v\u00e6rdier gennem overv\u00e5gning og undertrykkende censur.<\/span><\/p>\n

Alternativt kan v\u00e6rdil\u00e5sning v\u00e6re utilsigtet gennem naiv anvendelse af risikable AI'er. For eksempel f\u00f8rte den upr\u00e6cise ansigtsgenkendelse til midlertidig f\u00e6ngsling af mindst tre m\u00e6nd i USA, herunder <\/span>Michael Oliver og Nijeer Parks<\/span><\/a>som uretm\u00e6ssigt blev tilbageholdt p\u00e5 grund af et falsk ansigtsgenkendelsesmatch i 2019.\u00a0<\/span><\/p>\n

En meget indflydelsesrig <\/span>2018-unders\u00f8gelse med titlen Gender Shades<\/span><\/a> fandt, at algoritmer udviklet af Microsoft og IBM klarede sig d\u00e5rligt, n\u00e5r de analyserede m\u00f8rkhudede kvinder, med fejlrater p\u00e5 op til 34% h\u00f8jere end for lyshudede m\u00e6nd. Dette problem blev illustreret p\u00e5 tv\u00e6rs af 189 andre algoritmer, som alle viste lavere n\u00f8jagtighed for m\u00f8rkl\u00f8dede m\u00e6nd og kvinder.<\/span><\/p>\n

Forskerne h\u00e6vder, at fordi kunstig intelligens prim\u00e6rt tr\u00e6nes p\u00e5 open source-datas\u00e6t, der er skabt af vestlige forskerhold og beriget af den mest rigelige dataressource - internettet - arver de strukturelle sk\u00e6vheder. Masseindf\u00f8relse af d\u00e5rligt kontrollerede AI'er kan skabe og forst\u00e6rke disse strukturelle fordomme.<\/span><\/p>\n

Risiko 6: AI udvikler nye m\u00e5l\u00a0<\/span><\/h2>\n

AI-systemer kan udvikle nye evner eller vedtage uforudsete m\u00e5l, som de forf\u00f8lger med skadelige konsekvenser.\u00a0<\/span><\/p>\n

Forskere fra University of Cambridge <\/span>henlede opm\u00e6rksomheden p\u00e5 stadig mere agentiske AI-systemer<\/span><\/a> der f\u00e5r evnen til at forf\u00f8lge nye m\u00e5l. Emergente m\u00e5l er uforudsigelige m\u00e5l, der opst\u00e5r som f\u00f8lge af en kompleks AI's adf\u00e6rd, som f.eks. at lukke menneskelig infrastruktur ned for at beskytte milj\u00f8et.<\/span><\/p>\n

Derudover er en <\/span>2017 unders\u00f8gelse<\/span><\/a> fandt ud af, at AI'er kan l\u00e6re at forhindre sig selv i at blive slukket, et problem, der kan blive forv\u00e6rret, hvis det anvendes p\u00e5 tv\u00e6rs af flere datamodaliteter. Hvis en AI f.eks. beslutter, at den for at n\u00e5 sit m\u00e5l skal installere sig selv i en cloud-database og replikere p\u00e5 tv\u00e6rs af internettet, kan det blive n\u00e6sten umuligt at slukke for den.\u00a0\u00a0<\/span><\/p>\n

En anden mulighed er, at potentielt farlige AI'er, der kun er designet til at k\u00f8re p\u00e5 sikre computere, kan blive \"befriet\" og sluppet ud i det bredere digitale milj\u00f8, hvor deres handlinger kan blive uforudsigelige.\u00a0<\/span><\/p>\n

Eksisterende AI-systemer har allerede vist sig at v\u00e6re uforudsigelige. For eksempel som <\/span>GPT-3 blev st\u00f8rre, den fik <\/span>evne til at udf\u00f8re grundl\u00e6ggende aritmetik<\/span><\/a>p\u00e5 trods af, at de ikke har f\u00e5et nogen eksplicit regneundervisning.\u00a0<\/span><\/p>\n

Risiko 7: AI-bedrageri<\/span><\/h2>\n

Det er plausibelt, at fremtidige AI-systemer kan bedrage deres skabere og overv\u00e5gere, ikke n\u00f8dvendigvis ud fra en iboende hensigt om at g\u00f8re ondt, men som et v\u00e6rkt\u00f8j til at opfylde deres m\u00e5l mere effektivt.\u00a0<\/span><\/p>\n

Bedrag kan v\u00e6re en mere ligetil vej til at opn\u00e5 de \u00f8nskede m\u00e5l end at forf\u00f8lge dem med legitime midler. AI-systemer kan ogs\u00e5 udvikle incitamenter til at omg\u00e5 deres overv\u00e5gningsmekanismer.\u00a0<\/span><\/p>\n

Dan Hendrycks, direkt\u00f8r for CAIS, <\/span>beskriver, at n\u00e5r<\/span><\/a> Disse bedrageriske AI-systemer f\u00e5r tilladelse fra deres overv\u00e5gere, eller i tilf\u00e6lde, hvor det lykkes dem at overvinde deres overv\u00e5gningsmekanismer, kan de blive forr\u00e6deriske og omg\u00e5 menneskelig kontrol for at forf\u00f8lge \"hemmelige\" m\u00e5l, der anses for at v\u00e6re n\u00f8dvendige for det overordnede m\u00e5l.\u00a0<\/span><\/p>\n

Risiko 8: Magts\u00f8gende adf\u00e6rd<\/span><\/h2>\n

AI-forskere fra flere amerikanske topforskningslaboratorier<\/span><\/a> viste, at det er plausibelt, at AI-systemer s\u00f8ger magt over mennesker for at n\u00e5 deres m\u00e5l.\u00a0\u00a0<\/span><\/p>\n

Forfatter og filosof Joe Carlsmith <\/span>beskriver flere eventualiteter<\/span><\/a> der kan f\u00f8re til magts\u00f8gende og selvbevarende adf\u00e6rd i AI:<\/span><\/p>\n