Geoffrey Hinton, der ofte omtales som "Godfather of AI" på grund af sit pionerarbejde inden for kunstige neurale netværk, frygter, at AI snart kan overtage menneskeheden.
I et interview på 60 Minutes forklarede Hinton, at selv om han ikke kunne være sikker på fremtiden for AI, kunne det gå meget galt meget snart, hvis vi ikke tager de rette forholdsregler.
Hinton mener ikke, at AI er bevidst på en selvbevidst måde endnu, men at "vi bevæger os ind i en periode, hvor vi for første gang nogensinde har ting, der er mere intelligente end os."
Hinton er ikke den typiske AI-dommedagsprofet. Han er stolt af sit pionerarbejde og sine resultater inden for AI, mens han arbejdede hos Google. Han ser de åbenlyse fordele ved at bruge AI i sundhedssektoren og den udvikling af nye lægemidler.
Den fare, han fremhæver, ligger i, at vi ikke rigtig ved, hvordan komplicerede AI-systemer 'tænker'.
Med henvisning til AI's evne til at lære sig selv sagde Hinton: "Vi har en meget god idé om, hvad den nogenlunde gør. Men så snart det bliver rigtig kompliceret, ved vi faktisk ikke, hvad der foregår, lige så lidt som vi ved, hvad der foregår i din hjerne."
Efterhånden som AI bliver bedre, bliver det sandsynligvis ikke nemmere at få styr på, hvordan den fungerer. Sort boks.
"Jeg tror, at den om fem år vil være i stand til at ræsonnere bedre end os," siger Hinton. I bund og grund kan mennesker snart blive de næstmest intelligente væsener på planeten og miste kontrollen over AI.
Hinton sagde: "En af måderne, hvorpå disse systemer kan undslippe kontrol, er ved at skrive deres egen computerkode for at modificere sig selv. Og det er noget, vi er nødt til at bekymre os alvorligt om."
Hvis chimpanser en dag besluttede sig for at rejse sig og angribe mennesker, ville menneskene vinde, fordi vi er klogere. Hvis AI blev klogere end mennesker og besluttede, at den ikke kunne lide os, ville vi lide samme skæbne.
Kan vi ikke bare slukke for computerne, hvis de begynder at opføre sig dårligt? Hinton siger, at AI efter at have læst og studeret al menneskelig litteratur og politiske aftaler ville blive en mester i at manipulere mennesker for at forhindre, at det sker.
Da han blev spurgt, om AI ville overtage menneskeheden, sagde Hinton: "Ja, det er en mulighed. Jeg siger ikke, at det vil ske. Hvis vi kunne forhindre dem i at gøre det, ville det være fantastisk. Men det er ikke sikkert, at vi kan forhindre dem i at gøre det."
Hinton sagde op hos Google i maj i år med henvisning til AI-risici, som han ikke mente, der blev taget hånd om. Han underskrev sammen med 350 AI-ledere en erklæring, der blev udgivet af Center for AI Safety (CAIS).
Den CAIS-erklæring "At mindske risikoen for udryddelse på grund af AI bør være en global prioritet på linje med andre samfundsmæssige risici som pandemier og atomkrig."
Hinton mener tydeligvis stadig, at det ikke er at overdrive risikoen.
"Disse ting forstår, og fordi de forstår, er vi nødt til at tænke grundigt over, hvad det næste bliver, og det ved vi bare ikke."
