{"id":1659,"date":"2023-06-13T21:32:01","date_gmt":"2023-06-13T21:32:01","guid":{"rendered":"https:\/\/dailyai.com\/?p=1659"},"modified":"2024-03-28T00:48:07","modified_gmt":"2024-03-28T00:48:07","slug":"navigating-the-labyrinth-of-ai-risks-an-analysis","status":"publish","type":"post","link":"https:\/\/dailyai.com\/nl\/2023\/06\/navigating-the-labyrinth-of-ai-risks-an-analysis\/","title":{"rendered":"Navigeren door het labyrint van AI-risico's: een analyse"},"content":{"rendered":"

Het verhaal over de risico's van AI wordt steeds eenpoliger, met technologieleiders en experts uit alle hoeken die aandringen op regulering. Hoe geloofwaardig is het bewijs dat de risico's van AI aantoont?\u00a0<\/strong><\/p>\n

De risico's van AI spreken tot de verbeelding. <\/span>Er is iets diep intu\u00eftiefs aan het vrezen van robots die ons kunnen misleiden, overmeesteren of veranderen in handelswaar dat ondergeschikt is aan hun eigen bestaan.<\/span><\/p>\n

De discussies over de risico's van AI zijn heviger geworden nadat t<\/span>e non-profit <\/span>Centrum voor AI-veiligheid (CAIS)<\/span> een verklaring<\/a>\u00a0ondertekend door meer dan 350 bekende personen, waaronder de CEO's van OpenAI, Anthropic en DeepMind, talloze academici, publieke figuren en zelfs ex-politici.\u00a0<\/span><\/p>\n

De titel van de verklaring was voorbestemd voor de krantenkoppen: \"Het beperken van het risico op uitsterven door AI zou een wereldwijde prioriteit moeten zijn naast andere risico's op maatschappelijke schaal, zoals pandemie\u00ebn en kernoorlogen.\"<\/strong><\/p>\n

Het wordt steeds moeilijker om een zinvol signaal uit dit rumoerige debat te halen. De critici van AI hebben alle munitie die ze nodig hebben om tegen AI te argumenteren, terwijl voorstanders of voorstanders van een afwachtende houding alles hebben wat ze nodig hebben om anti-AI verhalen als overhyped af te keuren.<\/span><\/p>\n

En er is ook een subplot. Big tech zou kunnen aandringen op regelgeving om de AI-industrie afschermen<\/a> van de open-source gemeenschap. <\/span>Microsoft heeft ge\u00efnvesteerd in OpenAI, Google in Anthropic - de volgende stap zou kunnen zijn om de drempel voor toetreding te verhogen en open-source innovatie te wurgen.<\/p>\n

In plaats van dat AI een existentieel risico vormt voor de mensheid, zou het wel eens open-source AI kunnen zijn die een existentieel risico vormt voor big tech. De oplossing is hetzelfde - controleer het nu.<\/p>\n

Te vroeg om kaarten van tafel te halen<\/h2>\n

AI is nog maar net opgedoken in het publieke bewustzijn, dus vrijwel alle perspectieven op risico's en regulering blijven relevant. De CAIS-verklaring kan op zijn minst fungeren als een waardevolle leidraad voor een op feiten gebaseerde discussie.<\/p>\n

Dr. Oscar Mendez Maldonado, docent Robotica en Kunstmatige Intelligentie aan de Universiteit van Surrey, zei<\/a>\"Het document dat door AI-experts is ondertekend, is aanzienlijk genuanceerder dan de huidige krantenkoppen doen geloven. Bij \"AI kan uitsterven veroorzaken\" denk je meteen aan een terminator-achtige AI-overname. Het document is aanzienlijk realistischer dan dat.\"<\/span><\/p>\n

Zoals Maldonado benadrukt, wordt de echte inhoud van de AI-risicoverklaring gepubliceerd op een andere pagina van hun website -... AI-risico<\/a> - en er is opvallend weinig discussie geweest over de punten die daar naar voren zijn gebracht. Inzicht in de geloofwaardigheid van AI-risico's is van fundamenteel belang om de debatten eromheen te informeren.<\/span><\/p>\n

Welk bewijs heeft CAIS verzameld om haar boodschap te onderbouwen? Lijken de vaak aangehaalde risico's van AI geloofwaardig?\u00a0<\/span><\/p>\n

Risico 1: AI-wapening<\/span><\/h2>\n

De bewapening van AI is een angstaanjagend vooruitzicht, dus het is misschien geen verrassing dat dit de toppositie inneemt onder de 8 risico's van de CAIS.\u00a0<\/span><\/p>\n

De CAIS stelt dat AI als wapen kan worden ingezet bij cyberaanvallen, zoals onderzoekers van het Center of Security and Emerging Technology hebben aangetoond. <\/span>overzicht de toepassingen<\/span><\/a> van machine learning (ML) voor het aanvallen van IT-systemen. <\/span>Ex-Google CEO Eric Schmidt trok ook de aandacht<\/a> aan het potentieel van AI om 'zero-day exploits' op te sporen, die hackers een middel bieden om systemen binnen te dringen via de zwakste punten.\u00a0<\/span><\/p>\n

Op een andere manier bespreekt Michael Klare, die adviseert over wapenbeheersing, de <\/span>automatisering van nucleaire commando- en besturingssystemen<\/span><\/a>die ook kwetsbaar kunnen blijken voor AI. Hij zegt: \"Deze systemen zijn ook gevoelig voor onverklaarbare storingen en kunnen voor de gek worden gehouden, of \"gespoofed\", door ervaren professionals. Hoeveel er ook wordt uitgegeven aan cyberbeveiliging, NC3-systemen zullen altijd kwetsbaar zijn voor hacken door geavanceerde tegenstanders.\"<\/span><\/p>\n

Een ander voorbeeld van mogelijke bewapening is de geautomatiseerde ontdekking van biowapens. AI is er al in geslaagd om potentieel therapeutische verbindingen<\/a>De mogelijkheden zijn er dus al.<\/span>\u00a0<\/span><\/p>\n

AI's kunnen zelfs autonoom wapentests uitvoeren met minimale menselijke begeleiding. Een onderzoeksteam van de Universiteit van Pittsburgh toonde bijvoorbeeld aan dat geavanceerde <\/span>AI-agenten kunnen hun eigen autonome wetenschappelijke experimenten uitvoeren<\/span><\/a>.<\/span><\/p>\n

Risico 2: verkeerde informatie en fraude<\/span><\/h2>\n

Het potentieel van AI om mensen te kopi\u00ebren en na te bootsen zorgt al voor opschudding en we zijn nu al getuige geweest van verschillende fraudegevallen met diepe vervalsingen. Verslagen uit China<\/a> geven aan dat AI-gerelateerde fraude wijdverbreid is.\u00a0<\/span><\/p>\n

Een recent geval betrof een vrouw uit Arizona die de telefoon opnam en geconfronteerd werd met haar snikkende dochter - dat dacht ze tenminste. \"De stem klonk net als die van Brie, de stembuiging, alles,\" zei ze. <\/span>vertelde ze aan CNN<\/span><\/a>. De fraudeur eiste $1 miljoen losgeld.\u00a0<\/span><\/p>\n

Andere tactieken zijn onder andere het gebruik van generatieve AI voor 'sextortion' en wraakporno, waarbij bedreigers AI-gegenereerde afbeeldingen gebruiken om losgeld te eisen voor expliciete valse inhoud, die de <\/span>FBI waarschuwde begin juni<\/span><\/a>. Deze technieken worden steeds geavanceerder en eenvoudiger op schaal te lanceren.<\/span><\/p>\n

Risico 3: Proxy of specificatie gaming<\/span><\/h2>\n

AI-systemen worden meestal getraind aan de hand van meetbare doelstellingen. Deze doelstellingen kunnen echter slechts een vervanging zijn voor de echte doelen, wat leidt tot ongewenste uitkomsten.\u00a0<\/span><\/p>\n

Een nuttige analogie is de Griekse mythe van koning Midas, die een wens kreeg van Dionysos.\u00a0<\/span>Midas vraagt dat alles wat hij aanraakt in goud verandert, maar realiseert zich later dat zijn voedsel ook in goud verandert, waardoor hij bijna verhongert.\u00a0<\/span>Hier leidt het nastreven van een 'positief' einddoel tot negatieve gevolgen of bijproducten van het proces. <\/span><\/p>\n

De CAIS vestigt bijvoorbeeld de aandacht op AI-aanbevelingssystemen die op sociale media worden gebruikt om de kijktijd en klikfrequentie te maximaliseren, maar inhoud die de betrokkenheid maximaliseert is niet noodzakelijkerwijs <\/span>goed voor het welzijn van gebruikers<\/span><\/a>. AI-systemen hebben al de schuld gekregen van het opsluiten van meningen op sociale mediaplatforms om 'echokamers' te cre\u00ebren die extreme idee\u00ebn in stand houden.\u00a0<\/span><\/p>\n

DeepMind bewees dat er subtielere manieren zijn voor AI's om schadelijke trajecten naar doelen te volgen via <\/span>doel verkeerd generaliseren<\/span><\/a>. In hun onderzoek ontdekte DeepMind dat een schijnbaar competente AI zijn doel verkeerd zou kunnen generaliseren en het naar de verkeerde doelen zou kunnen volgen.\u00a0<\/span><\/p>\n

Risico 4: Maatschappelijke verzwakking<\/span><\/h2>\n

CAIS trekt een parallel met de dystopische wereld van de film WALL-E en waarschuwt voor een te groot vertrouwen in AI.\u00a0<\/span><\/p>\n

Dit zou kunnen leiden tot een scenario waarin mensen hun vermogen tot zelfbestuur verliezen, waardoor de mensheid minder controle heeft over de toekomst. Verlies van menselijke creativiteit en authenticiteit is een andere grote zorg, die wordt vergroot door het creatieve talent van AI in kunst, schrijven en andere creatieve disciplines.\u00a0<\/span><\/p>\n

Een Twitter-gebruiker zei: \"Mensen die het zware werk doen voor een minimumloon terwijl robots po\u00ebzie schrijven en schilderen is niet de toekomst die ik voor ogen had. De tweet kreeg meer dan 4 miljoen impressies.\u00a0<\/span><\/p>\n

\n

Mensen die het zware werk doen voor een minimumloon terwijl de robots po\u00ebzie schrijven en schilderen is niet de toekomst die ik voor ogen had.<\/p>\n

- Karl Sharro (@KarlreMarks) 15 mei 2023<\/a><\/p><\/blockquote>\n

Inbreuk is geen dreigend risico, maar sommigen beweren<\/a> dat het verlies van vaardigheden en talent in combinatie met de dominantie van AI-systemen zou kunnen leiden tot een scenario waarin de mensheid stopt met het cre\u00ebren van nieuwe kennis.<\/p>\n

Risico 5: Risico van waardevastheid<\/span><\/h2>\n

Krachtige AI-systemen kunnen mogelijk een lock-in van onderdrukkende systemen cre\u00ebren.\u00a0<\/span><\/p>\n

Zo kan AI-centralisatie bepaalde regimes de macht geven om waarden af te dwingen door middel van surveillance en onderdrukkende censuur.<\/span><\/p>\n

Een andere mogelijkheid is dat waardevastheid onbedoeld ontstaat door de na\u00efeve adoptie van risicovolle AI's. De onnauwkeurigheid van gezichtsherkenning heeft bijvoorbeeld geleid tot de tijdelijke opsluiting van ten minste drie mannen in de VS. Zo leidde de onnauwkeurigheid van gezichtsherkenning tot de tijdelijke opsluiting van ten minste drie mannen in de VS, waaronder <\/span>Michael Oliver en Nijeer Parks<\/span><\/a>, die onterecht werden vastgehouden vanwege een valse gezichtsherkenning in 2019.\u00a0<\/span><\/p>\n

Een zeer invloedrijke <\/span>Onderzoek uit 2018 getiteld Gender Shades<\/span><\/a> ontdekten dat algoritmen ontwikkeld door Microsoft en IBM slecht presteerden bij het analyseren van vrouwen met een donkere huidskleur, met foutpercentages die tot 34% hoger lagen dan bij lichter gekleurde mannen. Dit probleem werd ge\u00efllustreerd in 189 andere algoritmen, die allemaal een lagere nauwkeurigheid vertoonden voor mannen en vrouwen met een donkere huidskleur.<\/span><\/p>\n

De onderzoekers stellen dat AI's structurele vooroordelen erven omdat ze voornamelijk worden getraind op open-source datasets die zijn gemaakt door westerse onderzoeksteams en verrijkt met de meest overvloedige bron van data - het internet. Een massale adoptie van slecht doorgelichte AI's zou deze structurele vooroordelen kunnen cre\u00ebren en versterken.<\/span><\/p>\n

Risico 6: AI ontwikkelt nieuwe doelen\u00a0<\/span><\/h2>\n

AI-systemen kunnen nieuwe mogelijkheden ontwikkelen of onverwachte doelen nastreven met schadelijke gevolgen.\u00a0<\/span><\/p>\n

Onderzoekers van de Universiteit van Cambridge <\/span>de aandacht vestigen op AI-systemen die steeds agentgerichter worden<\/span><\/a> die de mogelijkheid krijgen om nieuwe doelen na te streven. Emergente doelen zijn onvoorspelbare doelen die voortkomen uit het gedrag van een complexe AI, zoals het uitschakelen van menselijke infrastructuur om het milieu te beschermen.<\/span><\/p>\n

Bovendien is een <\/span>Onderzoek 2017<\/span><\/a> ontdekten dat AI's kunnen leren om zichzelf niet uit te schakelen, een probleem dat nog groter zou kunnen worden als ze worden ingezet op meerdere gegevensmodaliteiten. Als een AI bijvoorbeeld besluit dat hij, om zijn doel te bereiken, zichzelf in een clouddatabase moet installeren en over het internet moet repliceren, dan kan het uitschakelen bijna onmogelijk worden.\u00a0\u00a0<\/span><\/p>\n

Een andere mogelijkheid is dat potentieel gevaarlijke AI's die zijn ontworpen om alleen op beveiligde computers te draaien, worden 'bevrijd' en losgelaten in de bredere digitale omgeving, waar hun acties onvoorspelbaar kunnen worden.\u00a0<\/span><\/p>\n

Bestaande AI-systemen hebben al bewezen dat ze onvoorspelbaar zijn. Bijvoorbeeld <\/span>GPT-3 groter werd, kreeg het de <\/span>kunnen rekenen<\/span><\/a>ondanks dat ze geen expliciete rekenlessen kregen.\u00a0<\/span><\/p>\n

Risico 7: AI misleiding<\/span><\/h2>\n

Het is aannemelijk dat toekomstige AI-systemen hun makers en monitors zouden kunnen misleiden, niet noodzakelijk met de intentie om kwaad te doen, maar als hulpmiddel om hun doelen effici\u00ebnter te bereiken.\u00a0<\/span><\/p>\n

Misleiding kan een eenvoudigere weg zijn om de gewenste doelen te bereiken dan het nastreven van die doelen met legitieme middelen. AI-systemen kunnen ook prikkels ontwikkelen om hun controlemechanismen te omzeilen.\u00a0<\/span><\/p>\n

Dan Hendrycks, de directeur van CAIS, <\/span>beschrijft dat eens<\/span><\/a> Deze bedrieglijke AI-systemen krijgen toestemming van hun monitors, of in gevallen waarin ze erin slagen hun monitoringmechanismen te overmeesteren, kunnen ze verraderlijk worden en menselijke controle omzeilen om 'geheime' doelen na te streven die noodzakelijk worden geacht voor het algemene doel.\u00a0<\/span><\/p>\n

Risico 8: Machtzoekend gedrag<\/span><\/h2>\n

AI-onderzoekers van verschillende toponderzoekslaboratoria in de VS<\/span><\/a> bewees de plausibiliteit van AI-systemen die macht over mensen willen om hun doelen te bereiken.\u00a0\u00a0<\/span><\/p>\n

Schrijver en filosoof Joe Carlsmith <\/span>beschrijft verschillende eventualiteiten<\/span><\/a> die kunnen leiden tot machtszoekend en zelfbehoudgericht gedrag in AI:<\/span><\/p>\n