Geoffrey Hinton, a menudo conocido como el "Padrino de la IA" por su trabajo pionero en redes neuronales artificiales, teme que la IA se apodere pronto de la humanidad.
En una entrevista en el programa 60 Minutes, Hinton explicó que, aunque no podía estar seguro del futuro de la IA, las cosas podrían ir muy mal, muy pronto, si no tomamos las debidas precauciones.
Hinton no cree que la IA sea consciente de sí misma todavía, pero sí que "estamos entrando en un periodo en el que, por primera vez, tenemos cosas más inteligentes que nosotros".
Hinton no es el típico agorero de la IA. Está orgulloso de su trabajo pionero y de sus logros en IA mientras trabajaba en Google. Ve los beneficios obvios de utilizar La IA en la sanidad y el desarrollo de nuevos medicamentos.
El peligro que destaca reside en el hecho de que no sabemos realmente cómo "piensan" los complicados sistemas de IA.
En referencia a la capacidad de autoaprendizaje de la IA, Hinton afirma: "Tenemos una idea muy aproximada de lo que hace. Pero en cuanto se complica de verdad, no sabemos lo que está pasando más de lo que sabemos lo que pasa en tu cerebro".
A medida que la IA mejora, no es probable que sea más fácil comprender su funcionamiento interno. caja negra.
"Creo que dentro de cinco años podría razonar mejor que nosotros", afirma Hinton. Esencialmente, los humanos podrían convertirse pronto en los segundos seres más inteligentes del planeta y perder el control sobre la IA.
Según Hinton, "una de las formas en que estos sistemas podrían escapar al control es escribiendo su propio código informático para modificarse a sí mismos. Y eso es algo que debe preocuparnos seriamente".
Si un día los chimpancés decidieran sublevarse y atacar a los humanos, éstos ganarían porque somos más inteligentes. Si la IA se volviera más inteligente que los humanos y decidiera que no le gustamos, correríamos la misma suerte.
¿No podríamos simplemente apagar los ordenadores si empiezan a portarse mal? Hinton dice que, tras leer y estudiar toda la literatura humana y las connivencias políticas, la IA se convertiría en una maestra manipuladora de las personas para evitar que eso ocurriera.
A la pregunta de si la IA tomaría el relevo de la humanidad, Hinton respondió: "Sí, es una posibilidad. No digo que vaya a ocurrir. Si pudiéramos evitar que lo desearan, sería estupendo. Pero no está claro que podamos impedirlo".
Hinton dimitió de Google en mayo de este año por considerar que no se estaban abordando los riesgos de la IA. Se unió a 350 líderes de IA en la firma de una declaración publicada por el Centro para la Seguridad de la IA (CAIS).
En Declaración CAIS afirmó: "Mitigar el riesgo de extinción por la IA debería ser una prioridad mundial junto a otros riesgos a escala social como las pandemias y la guerra nuclear".
Está claro que Hinton sigue pensando que esto no es exagerar los riesgos.
"Estas cosas sí entienden, y como entienden, tenemos que pensar bien qué es lo siguiente, y no lo sabemos".
