Radovan Kavicky est évangéliste en IA et science des données à AIslovakIA, la plateforme nationale pour le développement de l'IA en Slovaquie, et président de l'Institut GapData. La plateforme à but non lucratif soutenue par le gouvernement slovaque vise à connecter tous les acteurs de l'industrie de l'IA en Slovaquie et à utiliser le plein potentiel des plus grands esprits slovaques pour promouvoir le développement de l'IA en Slovaquie.
Radovan a terminé ses études en finance et a donc commencé comme économiste, mais lorsque vous parlez avec lui, il est clair que sa véritable passion réside dans la science des données et l'IA, en particulier en ce qui concerne son pays d'origine, la Slovaquie.
Dans sa présentation (disponible sur son site GitHub ou directement @ https://tinyurl.com/slides-globalAIshow) au Global AI Show de Dubaï, Radovan a présenté des projections intéressantes sur la date à laquelle nous pourrions nous attendre à une IA forte, à une IA de niveau humain et, plus tard, à une AGI, c'est-à-dire le "Saint-Graal" de toutes les recherches sur l'IA.
Il a souligné la nécessité croissante de mettre en œuvre des outils d'IA explicable, une collaboration ouverte et d'enseigner aux machines notre système de valeurs et l'État de droit afin que l'IA devienne tout ce que nous espérons qu'elle soit (au moins bienveillante à l'égard de l'humanité).
Eugene van der Watt de DailyAI s'est entretenu avec Radovan Kavicky pour connaître son point de vue sur les développements actuels et futurs de l'IA. Voici quelques extraits intéressants de l'entretien.
Q : Radovan, vous avez été conseiller du Premier ministre du gouvernement slovaque en matière d'intelligence artificielle. Pouvez-vous nous en dire plus à ce sujet ?
Radovan Kavicky : "Oui, j'ai travaillé pour Iveta Radičová pendant le gouvernement pro-démocratique et pro-réforme en 2010 jusqu'à ce que le gouvernement tombe malheureusement en 2011 (entre parenthèses, le jour de mon anniversaire). J'ai été impliqué dans divers algorithmes et implémentations d'IA pour divers ministères, y compris le ministère de la Justice, travaillant aux côtés de mon collègue de MESA 10 à l'époque, Martin Valentovič. Nous avons utilisé l'IA et des outils avancés de science des données dans des domaines tels que la justice, par exemple en calculant des vecteurs de distances et en optimisant le réseau du système judiciaire, et en améliorant l'accessibilité à la justice à travers la Slovaquie."
Q : Les gouvernements du monde entier ont adopté des approches différentes en matière de réglementation de l'IA. Que pensez-vous de l'approche slovaque ? Quelle sera la voie suivie en matière de réglementation ?
Radovan Kavicky : "Au sein d'AIslovakIA, nous participons au processus de création et de mise à jour régulière de la stratégie de mise en œuvre de l'IA dans le secteur public, et nous collaborons également au sein de l'Europe. La Slovaquie est membre non seulement de l'UE ou de l'OTAN, mais aussi de l'OCDE, qui a sa propre approche de la transparence et de la réglementation avec les principes de l'OCDE en matière d'IA. Sur cette base, nous élaborons également une stratégie commune au sein de l'Europe".
M. Radovan a expliqué l'approche de l'UE en matière de réglementation de l'IA par le biais de la loi sur l'IA, qui se concentre sur l'évaluation des risques liés à la mise en œuvre de l'IA plutôt que sur la réglementation de technologies spécifiques. Il estime qu'il s'agit d'une meilleure approche par rapport à d'autres pays et régions du monde, mais qu'elle n'est pas axée sur la réglementation de l'IA elle-même.
Si Kavicky est optimiste quant aux avantages de l'IA, il n'ignore pas les risques potentiels de l'AGI, mais souligne l'importance d'aligner l'IA sur les valeurs humaines.
Q : Vous avez dit que l'OpenAI n'était pas vraiment ouvert. Qu'en pensez-vous ?
Radovan Kavicky : "Je crois fermement en une approche open-source, ouverte et académique pour atteindre ces types de jalons menant à une IA forte, HLAI, AGI, ou peut-être même à la superintelligence dans les années à venir. OpenAI n'est actuellement ouvert que de nom... il s'agit en fait de l'une des organisations les plus fermées et secrètes au monde, qui travaille en fait à atteindre l'AGI (Chat GPT ou GPT 4 n'est qu'un semi-produit menant à l'IA forte) et nous devons nous préparer aux changements à venir avec l'AGI, car nous sommes en train de créer quelque chose qui surpassera l'intelligence humaine. Et ce n'est pas une blague. Nous sommes très proches de cela et nous n'avons qu'une décennie, peut-être même moins/quelques années pour nous préparer. Si OpenAI atteint ce stade, je suis vraiment inquiet... parce qu'actuellement, nous ne pouvons même pas vérifier leurs recherches sur le plan académique ou savoir sur la base de quelles données ils ont créé le GPT 4. Ce n'est pas quelque chose qu'il faut accepter.
Faisant référence à Sofia, un robot humanoïde doté d'une intelligence artificielle, qui était son co-conférencier au Global AI Show, M. Kavicky a déclaré, "Il suffit de regarder le créateur de Sofia, Ben Goertzel, sa vision de la combinaison de technologies comme la blockchain et les LLM, le traitement du langage naturel et d'autres technologies avec une approche décentralisée dont l'objectif final est de maximiser les bénéfices pour l'humanité et la communauté mondiale est complètement différente de celle de Sam Altman dont l'objectif final est de maximiser les bénéfices pour une entreprise concrète, Microsoft dans ce cas. Et je crois fermement à l'ouverture et à l'approche de Ben, pas de Sam".
M. Kavicky a insisté sur la nécessité d'adopter une approche ouverte pour faire face aux risques potentiels.
Q : Les avis divergent sur l'AGI. Yann LeCun pense qu'elle est encore loin et que la sécurité n'est pas un problème, tandis qu'Elon Musk pense qu'elle est imminente et qu'elle représente un risque existentiel. Qu'en pensez-vous ?
Radovan Kavicky : "Je pense que nous ne devrions nous inquiéter que si nous le faisons mal, pas de manière ouverte et transparente, et si nous le mettons en œuvre de manière médiocre, cela pourrait vraiment être la dernière création de l'humanité. Encore une fois, ce n'est pas une blague, cela peut vraiment arriver et il y a une probabilité non nulle que cela se produise. Pour l'éviter, nous devons enseigner notre système de valeurs à ces machines, technologies et modèles que nous créons et appelons IA... et même si nous ne sommes pas en mesure de leur enseigner notre système de valeurs ou nos lois... nous devrions au moins essayer de leur enseigner l'empathie et le respect de nos lois et de tout ce qui est humain."
Q : La Slovaquie a produit quelques noms remarquables dans le domaine de l'IA, comme Andrej Karpathy. Cependant, il y a aussi le problème de la fuite des cerveaux. Existe-t-il des opportunités en Slovaquie pour quelqu'un qui souhaite travailler sur des projets d'IA ?
Radovan Kavicky : "Il y a des opportunités et l'industrie de l'IA se développe rapidement, mais nous n'avons encore jamais eu de licorne de l'IA directement en Slovaquie. Bien sûr, nous avons les talents (heureusement, ils sont répartis dans le monde entier), mais nous ne sommes pas en mesure de les retenir en raison de meilleures conditions dans d'autres pays, des limites de notre législation, comme l'impossibilité de breveter un algorithme, et aussi de la nature mondiale de l'industrie de l'IA."
M. Kavicky a expliqué que le gouvernement et l'industrie slovaques doivent changer de mentalité pour retenir les talents en matière d'IA et bénéficier, plutôt que subir, l'inévitable automatisation de l'IA qui s'annonce, et que sa région/CEE/Europe centrale et orientale sera la plus durement touchée (si l'on en croit les prédictions).
Il a exprimé son scepticisme à l'égard de la blockchain, mais a reconnu l'expertise de Ben Goertzel et Marek Rosa de GoodAI, qui s'efforcent d'atteindre l'AGI le plus rapidement possible et d'intégrer l'IA, mais aussi des technologies comme la blockchain, dans leur quête de l'AGI.
Q : Pensez-vous que la blockchain, le DeFi et d'autres éléments de ce type vont jouer un rôle plus important dans l'IA à l'avenir ?
Radovan Kavicky : "Oui, mais pour mettre les choses en perspective... je considère que la blockchain n'est techniquement qu'une base de données très lente. Pour moi, la blockchain n'est peut-être pas la bonne voie à suivre... mais peut-être que je me trompe... qui sait... Quoi qu'il en soit, une autre technologie similaire à la blockchain pourrait être le chaînon manquant pour... résoudre le problème du stockage afin d'atteindre l'IA forte et, espérons-le, l'AGI... Je pense que quelque chose d'encore mieux que la blockchain est en train d'arriver. Très bientôt."
M. Kavicky se réjouit des progrès réalisés dans le domaine des réseaux neuronaux artificiels, mais il ajoute qu'ils sont très différents de notre cerveau humain et qu'ils sont même meilleurs à certains égards.
"Je ne suis pas sûr que nous comprenions tous pleinement que nous jouons avec des technologies très dangereuses. Nous devons vraiment comprendre en profondeur ces technologies, les comprendre mathématiquement et comprendre en profondeur comment elles prennent des décisions. Nous devrions vraiment revenir aux fondamentaux et à l'époque où l'IA était un domaine scientifique multidisciplinaire... pour apprendre fondamentalement comment ces modèles apprennent."
M. Kavicky a souligné la nécessité pour le secteur de l'IA d'être plus ouvert et de collaborer davantage afin de réaliser ces avancées en toute sécurité.
"L'avenir est absolument génial, mais c'est à nous de décider comment nous allons le construire .... et la vision de Sam Altman ou d'autres comme lui... Je ne pense pas que cette vision soit la bonne façon d'aller de l'avant. Nous devrions au moins nous arrêter un moment, accepter la réalité que dans les années à venir, nous, les humains, ne serons plus les animaux les plus intelligents ou l'entité la plus intelligente de cette planète... et nous demander vraiment ce que cela signifie... pour l'ensemble de l'humanité et ce monde que nous avons créé.
Certains disent que nous sommes au début de la fin de l'humanité... Je ne le pense pas. Nous sommes au début du commencement. Ce qui nous attend est le test ultime de notre propre intelligence. La capacité d'adaptation est l'une des définitions de l'intelligence.
Et n'oubliez pas que le principe a toujours été "s'adapter ou mourir". En d'autres termes, à un moment donné, nous devrons probablement fusionner avec la technologie que nous sommes en train de créer afin de rester compétitifs (imaginez un instant le monde où l'IA, notre création, basée sur nos données, est meilleure en tout... et ce moment de l'histoire de l'humanité arrivera plus tôt que vous ne le pensez).
L'interface homme-machine (ou IA si vous voulez) ou la capacité de stocker notre propre conscience sur des machines et de passer d'une machine à l'autre, par exemple dans le nuage, ne fonctionne pas encore, mais ces technologies sont en train d'arriver. Que feriez-vous et comment décideriez-vous (si vous avez la possibilité de "vivre éternellement" ou de fusionner avec l'IA) ?
Je n'ai pas de réponse à vous donner ici... Je sais seulement ce que je ferais... Je serai le premier dans la file d'attente si cela fonctionne et je saisirais volontiers la chance de dépasser les limites actuelles de l'humanité. Nous sommes et restons des humains. C'est tout simplement dans notre nature, et ça l'a toujours été, de repousser les limites et de nous réinventer."
Pour en savoir plus sur les travaux de Kavicky dans le domaine de l'IA et de la science des données, consultez le site suivant AIslovakIA et l'Institut GapData.
