Geoffrey Hinton, som ofte omtales som "AIs gudfar" på grunn av sitt banebrytende arbeid innen kunstige nevrale nettverk, frykter at AI snart kan ta over menneskeheten.
I et intervju på 60 Minutes forklarte Hinton at selv om han ikke kunne være sikker på fremtiden for AI, kan ting gå veldig galt, veldig snart, hvis vi ikke tar de rette forholdsreglene.
Hinton tror ikke at AI er selvbevisst ennå, men at "vi er på vei inn i en periode der vi for første gang noensinne har ting som er mer intelligente enn oss".
Hinton er ikke en typisk AI-dommedagsprofet. Han er stolt av pionerarbeidet sitt og det han har oppnådd innen kunstig intelligens mens han jobbet hos Google. Han ser de åpenbare fordelene ved å bruke AI i helsevesenet og utvikling av nye legemidler.
Faren han fremhever, er at vi egentlig ikke vet hvordan kompliserte AI-systemer "tenker".
Med henvisning til AIs evne til selvlæring sa Hinton: "Vi har en veldig god idé om hva den gjør i grove trekk. Men så snart det blir virkelig komplisert, vet vi faktisk ikke hva som foregår, like lite som vi vet hva som foregår i hjernen din."
Etter hvert som AI blir bedre, vil det neppe bli enklere å få tak i hvordan den fungerer innvendig. svart boks.
"Jeg tror at den om fem år kan være i stand til å resonnere bedre enn oss", sier Hinton. I bunn og grunn kan menneskene snart bli de nest mest intelligente vesenene på planeten og miste kontrollen over AI.
Hinton sa: "En av måtene disse systemene kan unnslippe kontroll på, er ved å skrive sin egen datakode for å modifisere seg selv. Og det er noe vi må bekymre oss alvorlig for."
Hvis sjimpansene en dag bestemte seg for å angripe menneskene, ville menneskene vinne fordi vi er smartere. Hvis kunstig intelligens ble smartere enn menneskene og bestemte seg for at den ikke likte oss, ville vi lide samme skjebne.
Kan vi ikke bare slå av datamaskinene hvis de begynner å oppføre seg dårlig? Hinton sier at etter å ha lest og studert all menneskelig litteratur og politiske konspirasjoner vil AI bli en mester i å manipulere mennesker for å forhindre at det skjer.
På spørsmål om kunstig intelligens vil ta over menneskeheten, svarer Hinton: "Ja, det er en mulighet. Jeg sier ikke at det kommer til å skje. Hvis vi kunne hindre dem i å ønske det, ville det vært flott. Men det er ikke sikkert at vi kan hindre dem i å gjøre det."
Hinton sa opp sin stilling hos Google i mai i år med henvisning til AI-risikoer som han mente ikke ble tatt hånd om. Sammen med 350 andre AI-ledere signerte han en uttalelse utgitt av Center For AI Safety (CAIS).
Den CAIS-uttalelse "Å redusere risikoen for utryddelse som følge av kunstig intelligens bør være en global prioritet på linje med andre samfunnsmessige risikoer som pandemier og atomkrig."
Hinton mener tydeligvis fortsatt at dette ikke er å overdrive risikoen.
"Disse tingene forstår, og fordi de forstår, må vi tenke nøye gjennom hva som blir det neste, og det vet vi rett og slett ikke."
