Geoffrey Hinton, die vaak de 'Godfather of AI' wordt genoemd vanwege zijn pionierswerk op het gebied van kunstmatige neurale netwerken, vreest dat AI de mensheid binnenkort zal overnemen.
In een interview met 60 Minutes legde Hinton uit dat hij niet zeker kon zijn van de toekomst van AI, maar dat het heel snel heel erg mis zou kunnen gaan als we niet de juiste voorzorgsmaatregelen nemen.
Hinton gelooft niet dat AI al zelfbewust is, maar wel dat "we een periode ingaan waarin we voor het eerst dingen hebben die intelligenter zijn dan wij".
Hinton is geen typische AI-doemdenker. Hij is trots op zijn pionierswerk en zijn prestaties op het gebied van AI toen hij bij Google werkte. Hij ziet de duidelijke voordelen van het gebruik van AI in de gezondheidszorg en de ontwikkeling van nieuwe geneesmiddelen.
Het gevaar dat hij benadrukt schuilt in het feit dat we niet echt weten hoe ingewikkelde AI-systemen 'denken'.
Verwijzend naar het vermogen van AI om zichzelf te leren zei Hinton: "We hebben een heel goed idee van wat het ongeveer doet. Maar zodra het echt ingewikkeld wordt, weten we eigenlijk net zo min wat er gebeurt als we weten wat er in je hersenen gebeurt."
Naarmate AI beter wordt, zal het waarschijnlijk niet eenvoudiger worden om grip te krijgen op de innerlijke werking ervan. zwarte doos.
"Ik denk dat het over vijf jaar wel eens beter zou kunnen redeneren dan wij," zei Hinton. In wezen zouden mensen binnenkort de op één na intelligentste wezens op aarde kunnen worden en de controle over AI verliezen.
Hinton zei: "Eén van de manieren waarop deze systemen aan controle kunnen ontsnappen is door hun eigen computercode te schrijven om zichzelf aan te passen. En dat is iets waar we ons serieus zorgen over moeten maken."
Als chimpansees op een dag zouden besluiten in opstand te komen en mensen aan te vallen, zouden de mensen winnen omdat wij slimmer zijn. Als AI slimmer zou worden dan mensen en zou besluiten ons niet te mogen, dan zou ons hetzelfde lot beschoren zijn.
Kunnen we de computers niet gewoon uitschakelen als ze zich beginnen te misdragen? Hinton zegt dat na het lezen en bestuderen van alle menselijke literatuur en politieke samenzweringen AI een meester zou worden in het manipuleren van mensen om dat te voorkomen.
Op de vraag of AI de mensheid zou overnemen zei Hinton: "Ja, dat is een mogelijkheid. Ik zeg niet dat het zal gebeuren. Als we kunnen voorkomen dat ze dat ooit willen, zou dat geweldig zijn. Maar het is niet duidelijk of we kunnen voorkomen dat ze dat ooit zullen willen."
Hinton nam in mei van dit jaar ontslag bij Google omdat hij vond dat de AI-risico's niet werden aangepakt. Hij sloot zich aan bij 350 AI-leiders die een verklaring ondertekenden van het Center For AI Safety (CAIS).
De CAIS-verklaring zei: "Het verminderen van het risico op uitsterven door AI zou een wereldwijde prioriteit moeten zijn naast andere risico's op maatschappelijke schaal zoals pandemieën en kernoorlogen."
Hinton vindt duidelijk nog steeds dat dit de risico's niet overdrijft.
"Deze dingen begrijpen het wel en omdat ze het begrijpen, moeten we goed nadenken over hoe het nu verder moet en dat weten we gewoon niet."
