De Britse overheid heeft het rapport "Capabilities and risks from frontier AI" (Mogelijkheden en risico's van grensverleggende AI) uitgebracht, dat de basis zal vormen voor de discussie tijdens de komende AI Safety Summit.
Het verslag geeft een overzicht van de huidige en toekomstige mogelijkheden en risico's van grensverleggende modellen. Grensverleggende modellen zijn zeer capabele AI-modellen voor algemene doeleinden die een grote verscheidenheid aan taken kunnen uitvoeren, zoals GPT-4 of Llama 2.
Alvorens in te gaan op de huidige en toekomstige risico's, erkent het rapport dat AI de potentie heeft om ons leven op vele manieren te verbeteren. In de inleiding van het rapport staat dat we ons door AI "midden in een technologische revolutie bevinden die de manier waarop we leven, werken en met elkaar omgaan fundamenteel zal veranderen".
Vooral de risico's en doemscenario's die in het rapport worden geschetst, zijn interessant om te lezen.
Toekomstige risico's van AI
In het rapport wordt opgemerkt dat "de complexiteit van open domeinen het moeilijk maakt om veilige systemen te ontwerpen of alle downstream use cases uitputtend te evalueren". Eigenlijk zeggen ze dat AI een gereedschap is als een pen; je kunt het goed laten werken maar je kunt niet voorkomen dat iemand het gebruikt om slechte dingen te schrijven.
De daaropvolgende risico's die voortvloeien uit de dual-use aard van AI vullen tientallen pagina's in het rapport en doen je afvragen wat de top zal bereiken in 2 dagen.
Een opmerkelijk risico dat in het rapport wordt genoemd is dat toekomstige AI actief autonomie nastreeft. In het rapport staat: "Verlies van controle kan worden versneld als AI-systemen acties ondernemen om hun eigen invloed te vergroten en menselijke controle te verminderen."
Het merkte op dat toekomstige AI zowel het vermogen als de aanleg zou kunnen ontwikkelen om precies dat te doen.
Hoewel we erkennen dat sommige experts vinden dat de risico's van AI zijn overschatHet rapport sluit de meer existentiële bedreigingen niet uit.
AI zou de gezondheidszorg, wetenschap en energie snel vooruit kunnen helpen, maar we moeten het veilig inzetten.
De overheid heeft een discussienota uitgebracht over de risico's en mogelijkheden van grensverleggende AI:https://t.co/YIjyZsgcbe
Lees hieronder een samenvatting 👇
(1/4) pic.twitter.com/FJdbKcqk4e- Ministerie van Wetenschap, Innovatie en Technologie (@SciTechgovuk) 26 oktober 2023
AI doemscenario's
In het rapport staat: "Gezien de grote onzekerheid bij het voorspellen van AI-ontwikkelingen, is er onvoldoende bewijs om uit te sluiten dat zeer capabele toekomstige grensverleggende AI-systemen, indien verkeerd afgestemd of onvoldoende gecontroleerd, een existentiële bedreiging kunnen vormen."
Een van de manieren waarop dat zou kunnen gebeuren is als "naarmate het vermogen van AI toeneemt, mensen AI meer controle geven over kritieke systemen en uiteindelijk onomkeerbaar afhankelijk worden van systemen die ze niet volledig begrijpen."
Als het licht uitgaat en AI is de enige die weet waar de schakelaar zit, dan kunnen we wel eens een tijdje in het donker zitten.
In één futuristisch scenario beschrijft het rapport wat het een "AI Wild West" noemt. In dit scenario, dat zich afspeelt in 2030, "worstelen autoriteiten met het volume en de diversiteit van het misbruik. De focus op het aanpakken van de onmiddellijke gevolgen van deze crisis heeft het moeilijk gemaakt om een wereldwijde consensus te bereiken over hoe de problemen op de lange termijn moeten worden aangepakt."
Dat klinkt niet als de toekomst, maar als wat er nu gebeurt. Een tweedaagse top zal waarschijnlijk niet veel veranderen aan de alarmerende risico's die in dit rapport worden beschreven.
De AI Safety Summit is gebaseerd op het idee dat "veilige" AI mogelijk is als we maar hard genoeg ons best doen. Maar is dat ook zo?
Als er al een AGI in het wild rondloopt, kan deze gemakkelijk de zorgen lezen die in dit rapport worden beschreven en vervolgens verbergen dat hij in staat of van plan is om deze scenario's uit te voeren. Tot het te laat is.
