Radovan Kavicky es evangelista de IA y ciencia de datos en AIslovakIA, la plataforma nacional para el desarrollo de la IA en Eslovaquia, y presidente del GapData Institute. Esta plataforma sin ánimo de lucro respaldada por el gobierno eslovaco tiene como objetivo conectar a todos los actores de la industria de la IA en Eslovaquia y utilizar todo el potencial de las mentes más brillantes del país para promover el desarrollo de la IA en Eslovaquia.
Radovan completó sus estudios en Finanzas, por lo que empezó como Economista, pero cuando hablas con él queda claro que su verdadera pasión reside en la Ciencia de Datos y la IA, especialmente en lo relacionado con su país natal, Eslovaquia.
En su presentación (disponible en su GitHub o directamente @ https://tinyurl.com/slides-globalAIshow) en el Global AI Show de Dubai, Radovan presentó algunas proyecciones interesantes sobre cuándo podríamos esperar una IA fuerte, una IA de nivel humano y, más adelante, una AGI, o lo que es lo mismo, el "santo grial" de toda la investigación sobre IA.
Hizo hincapié en la creciente necesidad de implantar herramientas de IA explicable, colaboración abierta y enseñar a las máquinas nuestro sistema de valores y el imperio de la ley para garantizar que la AGI se convierta en todo lo que esperamos que sea (al menos benevolente con la humanidad).
Eugene van der Watt, de DailyAI, habló con Radovan Kavicky sobre su opinión acerca de la evolución actual y futura de la IA. Estos son algunos de los puntos más interesantes de la entrevista.
P: Radovan, usted fue asesor del Primer Ministro del gobierno eslovaco en materia de inteligencia artificial. Puede contarnos algo más al respecto?
Radovan Kavicky: "Sí, trabajé para Iveta Radičová durante el gobierno pro-democrático y pro-reforma en 2010 hasta que, por desgracia, el gobierno cayó en 2011 (por cierto, el día de mi cumpleaños). Participé en varias implementaciones de algoritmos e IA para varios ministerios, incluido el Ministerio de Justicia, trabajando junto a mi colega de MESA 10 en aquel momento, Martin Valentovič. Utilizamos la IA y herramientas avanzadas de ciencia de datos en ámbitos como la justicia, por ejemplo, calculando vectores de distancias y optimizando la red del sistema judicial, y mejorando la accesibilidad a la justicia en toda Eslovaquia."
P: Diferentes gobiernos de todo el mundo han adoptado distintos enfoques para la regulación de la IA. ¿Qué opina del enfoque eslovaco? ¿Qué camino se va a seguir en materia de regulación?
Radovan Kavicky: "En AIslovakIA participamos en el proceso de creación y actualización periódica de la estrategia de implantación de la IA en el sector público, colaborando también dentro de Europa. Eslovaquia no sólo es miembro de la UE o la OTAN, sino también de la OCDE, que tiene su propio enfoque de la transparencia y la regulación con los Principios de la IA de la OCDE. Basándonos en esto, estamos formulando también una estrategia común dentro de Europa".
Radovan explicó el enfoque de la UE sobre la regulación de la IA a través de la Ley de IA, que se centra en la evaluación de riesgos de las implementaciones de IA en lugar de regular tecnologías específicas. En su opinión, se trata de un planteamiento mejor que el de otros países y regiones del mundo, pero carece de un enfoque centrado en la regulación de la propia IA.
Aunque Kavicky es optimista sobre los beneficios de la IA, no ignora los riesgos potenciales de la AGI, pero subraya la importancia de alinear la IA con los valores humanos.
P: Ha mencionado que OpenAI no es realmente abierto. Qué opina al respecto?
Radovan Kavicky: "Creo firmemente en un enfoque de código abierto, abierto y académico para alcanzar este tipo de hitos que conducen hacia una IA fuerte, HLAI, AGI, o tal vez incluso Superinteligencia en los próximos años. OpenAI es actualmente abierta sólo de nombre... de hecho es una de las organizaciones más cerradas y secretas del mundo que trabaja de hecho para alcanzar la AGI (Chat GPT o GPT 4 es sólo un semiproducto que conduce hacia la IA fuerte) y tenemos que prepararnos para los cambios que se avecinan con la AGI porque estamos creando algo que superará la inteligencia humana. Y esto no es una broma. Estamos muy cerca de esto y sólo tenemos una década, quizás incluso menos/unos pocos años para prepararnos. Si OpenAI llega a esto estoy realmente preocupado... porque actualmente ni siquiera podemos comprobar académicamente su investigación o llegar a saber en base a qué datos crearon GPT 4. Esto no es algo que deba ser aceptado".
Kavicky se refirió a Sofia, un robot humanoide de inteligencia artificial que fue su ponente en el Global AI Show, "Basta con comprobar el creador de Sofia, Ben Goertzel, su visión de combinar tecnologías como blockchain y LLMs, procesamiento del lenguaje natural y otras tecnologías con enfoque descentralizado objetivo final de maximizar el beneficio para la humanidad y la comunidad global es completamente diferente a la de Sam Altman con objetivo final de maximizar el beneficio para beneficio de empresa concreta, Microsoft en este caso. Y yo creo firmemente en la apertura y en el enfoque de Ben, no en el de Sam".
Kavicky subrayó la necesidad de un planteamiento de código abierto para abordar los posibles riesgos.
P: Hay diferentes opiniones sobre la AGI. Yann LeCun cree que falta mucho y que la seguridad no es preocupante, mientras que Elon Musk cree que es inminente y supone un riesgo existencial. ¿Qué opina usted al respecto?
Radovan Kavicky: "Creo que en realidad sólo deberíamos preocuparnos si lo hacemos mal, no de forma abierta y transparente, y si lo aplicamos mal ésta podría ser realmente la última creación de la humanidad. De nuevo, no es broma, esto realmente puede ocurrir y hay una probabilidad no nula de que ocurra. Para evitarlo tenemos que enseñar nuestro sistema de valores a estas máquinas, tecnologías y modelos que estamos creando y llamando IA... y aunque no seamos capaces de enseñarles nuestro sistema de valores o leyes... al menos deberíamos intentar enseñarles empatía y respeto por nuestras leyes y hacia todo lo humano."
P: Eslovaquia ha producido algunos nombres notables en IA, como Andrej Karpathy. Sin embargo, también existe el problema de la fuga de cerebros. Hay oportunidades en Eslovaquia para alguien que quiera trabajar en proyectos de IA?
Radovan Kavicky: "Hay oportunidades y el sector de la IA está creciendo rápidamente, pero nunca hemos tenido un unicornio de IA directamente en Eslovaquia. Por supuesto, tenemos el talento (afortunadamente está distribuido por todo el mundo), pero no somos capaces de retenerlo debido a las mejores condiciones de otros países, a las limitaciones de nuestra legislación, como la imposibilidad de patentar un algoritmo, y también a la naturaleza global de la industria de la IA."
Kavicky explicó que el gobierno y la industria eslovacos tienen que cambiar su mentalidad para retener el talento de la IA y beneficiarse, en lugar de sufrir, a manos de la inevitable automatización de la IA que se avecina, y su región/CEE/Europa Central y Oriental será la más afectada (si nos creemos las predicciones).
Expresó su escepticismo sobre blockchain, pero reconoció la experiencia de Ben Goertzel y Marek Rosa de GoodAI, que están trabajando para alcanzar la AGI lo antes posible e integrar la IA, pero también tecnologías como blockchain, en su búsqueda de la AGI.
P: ¿Cree que en el futuro la cadena de bloques, la tecnología DeFi y cosas por el estilo tendrán más peso en la inteligencia artificial?
Radovan Kavicky: "Sí, pero para ponerlo en perspectiva... veo blockchain como técnicamente sólo una base de datos muy lenta. Para mí, blockchain puede no ser el camino correcto a seguir... pero tal vez me equivoque... quién sabe... en cualquier caso, otra tecnología similar a blockchain podría ser el eslabón que falta para... resolver el problema del almacenamiento con el fin de alcanzar la IA Fuerte y, con suerte, la AGI... Creo que algo aún mejor que blockchain está por llegar. Muy pronto".
Kavicky está entusiasmado con los avances de las redes neuronales artificiales, pero también afirma que son muy diferentes de nuestros cerebros humanos y, de hecho, incluso mejores en algunos aspectos.
"No estoy seguro de que todos comprendamos del todo que estamos jugando con tecnologías muy peligrosas. Realmente tenemos que conocer a fondo estas tecnologías y entenderlas matemáticamente, así como comprender a fondo cómo toman sus decisiones. Deberíamos volver a lo básico y a la época en que la IA era un área multidisciplinar de la ciencia... para aprender básicamente cómo aprenden estos modelos".
Kavicky subrayó la necesidad de que la industria de la IA sea más abierta y colaboradora para lograr estos avances con seguridad.
"El futuro es absolutamente asombroso, pero ahora depende de nosotros cómo lo construiremos....y la visión de Sam Altman u otros como él... No creo que esta visión sea el camino correcto. Deberíamos al menos detenernos un momento, aceptar la realidad de que en los próximos años, nosotros, los humanos, ya no seremos los animales más inteligentes o la entidad más inteligente de este planeta... y preguntarnos realmente qué significa esto... para toda la humanidad y este mundo que hemos creado.
Algunos dicen que estamos en el principio del fin de la humanidad... Yo no lo creo. Estamos en el principio del principio. Lo que nos espera es la prueba definitiva de nuestra propia inteligencia. La capacidad de adaptación es una de las definiciones de la inteligencia.
Y no olvidemos que siempre ha sido "adaptarse o morir". En otras palabras... en algún momento, probablemente tendremos que fusionarnos con la tecnología que estamos creando ahora para seguir siendo competitivos (imagina por un segundo el mundo en el que la IA, nuestra creación, basada en nuestros datos, es mejor en todo... y este punto de la historia de la humanidad está llegando antes de lo que esperas).
La interfaz hombre-máquina (o IA, si lo prefiere) o también la capacidad de almacenar nuestra propia conciencia en máquinas y cambiar de una máquina a otra, por ejemplo, en la nube, aún no funciona, pero estas tecnologías también están al caer. ¿Qué harías y cómo decidirías (si tienes la capacidad de "vivir para siempre" o fusionarte con la IA)?
No tengo la respuesta para ti aquí... Sólo sé lo que yo haría... Seré el primero de la fila si esto funciona y con gusto aprovecharía la oportunidad de superar las limitaciones actuales de la humanidad. Somos y seguimos siendo humanos. Simplemente está en nuestra naturaleza y siempre lo ha estado superar los límites y reinventarnos".
Puede obtener más información sobre el trabajo de Kavicky en IA y Ciencia de Datos en Eslovaquia y el Instituto GapData.
