Het nieuw opgerichte Center For AI Safety (CAIS) heeft op dinsdag 30 mei een verklaring vrijgegeven, ondertekend door 350 AI-leiders, academici, ingenieurs en andere prominenten.
Belangrijke ondertekenaars zijn onder andere AI-pioniers Geoffery Hinton en Yoshua Bengio, OpenAI CEO Sam Altman en een aantal collega's, de CEO's van DeepMind, Anthropic en andere toonaangevende AI-bedrijven, en vooraanstaande academici van MIT, Berkeley, de Universiteit van Cambridge en andere vooraanstaande academische instellingen wereldwijd.
"Het beperken van het risico op uitsterven door AI zou een wereldwijde prioriteit moeten zijn, naast andere risico's op maatschappelijke schaal zoals pandemieën en kernoorlogen". Verklaring van het Centrum voor AI-veiligheid (CAIS) over AI - 30 mei 2023.
Mei werd gekenmerkt door een intensiever debat over de maatschappelijke gevolgen van AI.
OpenAI CEO Sam Altman getuigde voor het Congres over AI-veiligheid en een van de vroege pioniers van AI, Geoffrey Hinton, verliet Google om openlijk over AI te spreken.
De CAIS bouwt voort op de intenties van technologieleiders om zich te verenigen en een samenhangend plan te vormen om de risico's van AI te beperken en tegelijkertijd het gebruik en de voordelen ervan te benadrukken. De risico's zijn zowel onmiddellijk als op de middellange of lange termijn, bijvoorbeeld wanneer autonome AI de menselijke intelligentie begint te overtreffen en we de controle verliezen.
Dan Hendrycks, de directeur van het Centrum voor AI-veiligheid, vertelde Sky News"Mensen zijn de dominante soort op aarde geweest vanwege onze intelligentie. Maar nu AI krachtiger en intelligenter wordt, zullen we die positie in de toekomst niet meer innemen."
AI: materiële en immateriële risico's
Hoe eindigt jouw favoriete film over AI? Er is iets bijna aangeboren over de risico's van AI, een instinctieve angst voor wat er gebeurt als 'de robots het overnemen'.
Op dit moment zijn de langetermijnrisico's van AI echter vooral ongrijpbaar en grotendeels gebaseerd op vermoedens, abstractie en projecties.
Het eerste tastbare effect van AI zal waarschijnlijk merkbaar zijn op de arbeidsmarkt, waar meer dan 375 miljoen banen staan op de tocht tegen 2030. AI ontwikkelt zich snel, dus dit kan een conservatieve schatting zijn. AI riskeert ook discriminatie, imitatie, cyberbeveiligingsrisico's en bewapening.
Technologieleiders en academici erkennen dat we een periode van snelle innovatie doormaken, waarin technologische ontwikkelingen sneller gaan dan onderzoek.
Dit is al meerdere keren gebeurd in de geschiedenis van de mens, bijvoorbeeld tijdens de komst van atoom- en kernenergie en het ontstaan van het internet. Eerder deze maand moedigde OpenAI's Sam Altman de oprichting aan van een internationaal agentschap voor AI, vergelijkbaar met de Internationaal Agentschap voor Atoomenergie gevormd in de jaren 1950.
Wat de risico's van AI ook zijn, we zullen er waarschijnlijk frontaal mee in botsing komen, want het is moeilijk voor te stellen dat grote techbedrijven de vooruitgang ervan kunnen beteugelen, en manalisten geloven dat zelfregulering een utopie is.
Sceptici twijfelen aan de vooruitgang van AI
Het AI-debat is geen eenrichtingsverkeer en sommigen zijn sceptisch over hoe snel het debat is geëscaleerd in de richting van een verhaal over uitsterven.
We slagen er bijvoorbeeld nog steeds niet in om effectieve AI-systemen te bouwen, zoals bestuurderloze auto's, die rudimentair zouden lijken als AI de planeet zou overnemen.
Bovendien is de gecomputeriseerde intelligentie van AI moeilijk te vergelijken met menselijke intelligentie. Mensen en andere biologische organismen kunnen complexe zintuiglijke gegevens van de vijf zintuigen in slechts milliseconden verwerken. Robots kunnen niet eens concurreren met baby's als het gaat om sensorische taken.
Nog opmerkelijker is de energie-efficiëntie van het menselijk brein - het verbruikt minder stroom dan een gloeilamp. Momenteel verbruiken de datacenters achter AI's zoals ChatGPT evenveel stroom als een stad. De voorsprong van de biologie op computers is meer dan alleen intelligentie.
Maar hoewel het makkelijk is om te wijzen op de gebreken in de futuristische visies van robots die de planeet overnemen, sluit dat niet uit dat mensen AI gebruiken om hun eigen mogelijkheden negatief uit te breiden, wat een veel directer risico is. Voorlopig ligt het risico meer bij ons dan bij de technologie zelf.
Hoewel AI nog een lange weg te gaan heeft voordat het letterlijk onder ons is, is de CAIS-verklaring een belangrijke mijlpaal voor het beperken van dreigende risico's, zoals de vervanging van AI-banen, misleiding en bewapening.
Om de boodschap geloofwaardiger te maken, moeten we binnenkort bewijs zien van samenwerking tussen de hoofdrolspelers, wat neerkomt op meer dan het ondertekenen van verklaringen.
