Geoffrey Hinton, muitas vezes referido como o "Padrinho da IA" devido ao seu trabalho pioneiro em redes neuronais artificiais, receia que a IA possa em breve dominar a humanidade.
Numa entrevista ao programa 60 Minutes, Hinton explicou que, apesar de não ter a certeza sobre o futuro da IA, as coisas podem correr muito mal, muito em breve, se não tomarmos as devidas precauções.
Hinton não acredita que a IA seja ainda senciente de uma forma autoconsciente, mas que "estamos a entrar num período em que, pela primeira vez, temos coisas mais inteligentes do que nós".
Hinton não é o típico pessimista da IA. Orgulha-se do seu trabalho pioneiro e das suas realizações no domínio da IA enquanto trabalhou na Google. Ele vê os benefícios óbvios da utilização da IA nos cuidados de saúde e o desenvolvimento de novos medicamentos.
O perigo que ele destaca reside no facto de não sabermos realmente como "pensam" os sistemas complicados de IA.
Referindo-se à capacidade de auto-aprendizagem da IA, Hinton disse: "Temos uma ideia muito boa, mais ou menos aproximada, do que está a fazer. Mas assim que se torna realmente complicado, não sabemos realmente o que se está a passar, tal como não sabemos o que se passa no nosso cérebro".
À medida que a IA melhora, não é provável que se torne mais fácil compreender o seu funcionamento interno. caixa preta.
"Penso que, dentro de cinco anos, a IA poderá ser capaz de raciocinar melhor do que nós", afirmou Hinton. Essencialmente, os humanos poderão em breve tornar-se os segundos seres mais inteligentes do planeta e perder o controlo sobre a IA.
Segundo Hinton, "uma das formas de estes sistemas escaparem ao controlo é escreverem o seu próprio código informático para se modificarem. E isso é algo com que nos devemos preocupar seriamente".
Se um dia os chimpanzés decidissem revoltar-se e atacar os humanos, os humanos venceriam porque somos mais inteligentes. Se a IA se tornasse mais inteligente do que os humanos e decidisse que não gostava de nós, teríamos o mesmo destino.
Não poderíamos simplesmente desligar os computadores se eles começassem a comportar-se mal? Hinton diz que, depois de ler e estudar toda a literatura humana e as conivências políticas, a IA tornar-se-ia um mestre na manipulação das pessoas para evitar que isso acontecesse.
Quando questionado sobre a possibilidade de a IA vir a dominar a humanidade, Hinton respondeu: "Sim, é uma possibilidade. Não estou a dizer que vai acontecer. Se pudéssemos impedi-los de o querer fazer, seria ótimo. Mas não é claro que possamos impedi-los de o quererem fazer".
Hinton demitiu-se da Google em maio deste ano, citando os riscos da IA que, na sua opinião, não estavam a ser tratados. Juntou-se a 350 líderes de IA que assinaram uma declaração divulgada pelo Centro para a Segurança da IA (CAIS).
O Declaração CAIS A atenuação do risco de extinção devido à IA deve ser uma prioridade global, a par de outros riscos à escala da sociedade, como as pandemias e a guerra nuclear.
É evidente que Hinton continua a considerar que não está a exagerar os riscos.
"Estas coisas compreendem e, porque compreendem, temos de pensar muito bem no que se segue, e não sabemos".
