Geoffrey Hinton, som ofta kallas "AI:s gudfader" på grund av sitt banbrytande arbete inom artificiella neurala nätverk, befarar att AI snart kan ta över mänskligheten.
I en intervju i 60 Minutes förklarade Hinton att även om han inte kunde vara säker på framtiden för AI, kan saker och ting gå mycket fel, mycket snart om vi inte vidtar lämpliga försiktighetsåtgärder.
Hinton tror inte att AI är självmedveten ännu, men att "vi är på väg in i en period då vi för första gången någonsin har saker som är mer intelligenta än vi".
Hinton är inte en typisk AI-dömare. Han är stolt över sitt banbrytande arbete och sina prestationer inom AI när han arbetade på Google. Han ser de uppenbara fördelarna med att använda AI inom hälso- och sjukvård och utveckling av nya läkemedel.
Den fara som han lyfter fram är att vi inte riktigt vet hur komplicerade AI-system "tänker".
Med hänvisning till AI:s förmåga till självlärande sa Hinton: "Vi har en mycket god uppfattning om ungefär vad den gör. Men så snart det blir riktigt komplicerat vet vi faktiskt inte vad som händer mer än vi vet vad som händer i din hjärna."
I takt med att AI förbättras kommer det sannolikt inte att bli lättare att få grepp om dess inre funktioner. svart låda.
"Jag tror att den om fem år mycket väl kan resonera bättre än oss", säger Hinton. I själva verket kan människan snart bli den näst mest intelligenta varelsen på planeten och förlora kontrollen över AI.
Hinton säger: "Ett av de sätt som dessa system kan undkomma kontroll är genom att skriva sin egen datorkod för att modifiera sig själva. Och det är något vi måste oroa oss för på allvar."
Om schimpanserna en dag bestämde sig för att gå till attack mot människorna skulle människorna vinna eftersom vi är smartare. Om AI blev smartare än människan och bestämde sig för att inte gilla oss, skulle vi gå samma öde till mötes.
Kan vi inte bara stänga av datorerna om de börjar uppföra sig illa? Hinton menar att AI efter att ha läst och studerat all mänsklig litteratur och alla politiska konspirationer skulle bli en mästare på att manipulera människor för att förhindra att det händer.
På frågan om AI kommer att ta över mänskligheten svarade Hinton: "Ja, det är en möjlighet. Jag säger inte att det kommer att hända. Om vi kunde hindra dem från att någonsin vilja det, skulle det vara fantastiskt. Men det är inte klart att vi kan hindra dem från att någonsin vilja."
Hinton sade upp sig från Google i maj i år med hänvisning till AI-risker som han inte tyckte att man tog itu med. Han anslöt sig till 350 AI-ledare som undertecknade ett uttalande som släpptes av Center For AI Safety (CAIS).
Den CAIS uttalande "Att minska risken för utrotning på grund av AI bör vara en global prioritet vid sidan av andra samhällsrisker som pandemier och kärnvapenkrig."
Hinton anser uppenbarligen fortfarande att detta inte är att överdriva riskerna.
"De här sakerna förstår, och eftersom de förstår måste vi fundera mycket på vad som händer härnäst, och vi vet helt enkelt inte."
