Radovan Kavicky is AI & Data Science Evangelist bij AIslovakIA, het nationale platform voor AI-ontwikkeling in Slowakije, en president van het GapData Institute. Het non-profit platform wordt ondersteund door de Slowaakse overheid en heeft als doel alle spelers in de AI-industrie in Slowakije met elkaar te verbinden en het volledige potentieel van de knapste koppen in Slowakije te gebruiken om de ontwikkeling van AI in Slowakije te bevorderen.
Radovan heeft zijn studie Financiën afgerond en is dus begonnen als econoom, maar als je met hem praat, is het duidelijk dat zijn echte passie ligt bij Data Science & AI, vooral als het gaat om zijn thuisland Slowakije.
In zijn presentatie (beschikbaar op zijn GitHub of rechtstreeks @ https://tinyurl.com/slides-globalAIshow) op de Global AI Show in Dubai presenteerde Radovan een aantal interessante voorspellingen over wanneer we sterke AI, AI op mensenniveau en later AGI kunnen verwachten, oftewel de "heilige graal" van al het AI-onderzoek.
Hij benadrukte de groeiende behoefte aan het implementeren van Explainable AI tools, open samenwerking en het aanleren aan machines van ons waardesysteem en onze rechtsorde om ervoor te zorgen dat AGI wordt wat we hopen dat het zal zijn (op zijn minst welwillend tegenover de mensheid).
Eugene van der Watt van DailyAI sprak met Radovan Kavicky over zijn visie op huidige en toekomstige AI-ontwikkelingen. Hier zijn een paar interessante hoogtepunten uit het interview.
V: Radovan, jij was ooit adviseur voor de premier van de Slowaakse regering over AI. Kun je ons daar meer over vertellen?
Radovan Kavicky: "Ja, ik werkte voor Iveta Radičová tijdens de pro-democratische, pro-hervormingsregering in 2010 tot de regering helaas viel in 2011 (btw. op mijn verjaardag). Ik was betrokken bij verschillende algoritmen en AI-implementaties voor verschillende ministeries, waaronder het ministerie van Justitie, en werkte samen met mijn toenmalige collega van MESA 10, Martin Valentovič. We gebruikten AI en geavanceerde data science-tools op gebieden als justitie, bijv. het berekenen van vectoren van afstanden en het optimaliseren van het netwerk van justitie, en het verbeteren van de toegankelijkheid van justitie in heel Slowakije."
V: Verschillende regeringen over de hele wereld hebben gekozen voor verschillende benaderingen van AI-regulering. Wat vindt u van de Slowaakse aanpak? Welke route zal daar worden genomen wat betreft regulering?
Radovan Kavicky: "Binnen AIslovakIA zijn we betrokken bij het opstellen en regelmatig bijwerken van de strategie voor AI-implementatie in de publieke sector, waarbij we ook samenwerken binnen Europa. Slowakije is niet alleen lid van de EU of de NAVO, maar ook van de OESO, die zijn eigen benadering van transparantie en regelgeving heeft met de AI-principes van de OESO. Op basis hiervan formuleren we ook een gemeenschappelijke strategie binnen Europa."
Radovan lichtte de EU-benadering van AI-regulering toe door middel van de AI Act, die zich richt op risicobeoordeling van AI-implementaties in plaats van het reguleren van specifieke technologieën. Volgens hem is dit een betere aanpak in vergelijking met andere landen en regio's wereldwijd, maar wat ontbreekt is een focus op het reguleren van AI zelf.
Hoewel Kavicky optimistisch is over de voordelen van AI, negeert hij de potentiële risico's van AGI niet, maar benadrukt hij het belang van het afstemmen van AI op menselijke waarden.
V: Je zei dat OpenAI niet echt open is. Wat zijn uw gedachten daarover?
Radovan Kavicky: "Ik geloof sterk in een open-source, open en academische benadering voor het bereiken van dit soort mijlpalen die leiden naar sterke AI, HLAI, AGI, of misschien zelfs Superintelligentie in de komende jaren. OpenAI is op dit moment alleen open in naam... in feite is het een van de meest gesloten en geheimzinnige organisaties wereldwijd die werkt aan het bereiken van AGI (Chat GPT of GPT 4 is slechts een halfproduct dat leidt naar sterke AI) en we moeten ons voorbereiden op de veranderingen die komen gaan met AGI omdat we iets creëren dat de menselijke intelligentie zal overwinnen. En dit is geen grap. We zijn hier heel dichtbij en we hebben slechts tien jaar, misschien zelfs minder of weinig jaar om ons voor te bereiden. Als OpenAI dit bereikt, maak ik me echt zorgen... want op dit moment kunnen we hun onderzoek niet eens academisch controleren of te weten komen op basis van welke gegevens ze GPT 4 hebben gemaakt. Dit is niet iets wat geaccepteerd zou moeten worden."
Verwijzend naar Sofia, een AI humanoïde robot die zijn co-keynote spreker was op de Global AI Show, zei Kavicky, "Kijk maar eens naar de bedenker van Sofia, Ben Goertzel, zijn visie op het combineren van technologieën zoals blockchain en LLM's, natuurlijke taalverwerking en andere technologieën met een gedecentraliseerde aanpak einddoel van het maximaliseren van voordeel voor de mensheid en de wereldwijde gemeenschap is compleet anders dan die van Sam Altman met einddoel van het maximaliseren van winst ten voordele van concreet bedrijf, Microsoft in dit geval. En ik geloof sterk in openheid en de aanpak van Ben, niet die van Sam."
Kavicky benadrukte de noodzaak van een open-source aanpak om potentiële risico's aan te pakken.
V: Er zijn verschillende meningen over AGI. Yann LeCun gelooft dat het nog ver weg is en dat veiligheid geen zorg is, terwijl Elon Musk gelooft dat het op handen is en een existentieel risico vormt. Wat denken jullie?
Radovan Kavicky: "Ik denk dat we ons pas echt zorgen moeten maken als we het slecht doen, niet op een open, transparante manier, en als we het slecht implementeren zou dit echt de laatste creatie van de mensheid kunnen zijn. Nogmaals, geen grapje, dit kan echt gebeuren en er is een niet-zero kans dat het gebeurt. Om dit te voorkomen moeten we ons waardesysteem leren aan deze machines, technologieën en modellen die we creëren en AI noemen... en zelfs als we niet in staat zullen zijn om ze ons waardesysteem of onze wetten te leren... moeten we op zijn minst proberen om ze empathie en respect voor onze wetten en voor alles wat menselijk is bij te brengen."
V: Slowakije heeft een aantal opmerkelijke namen op het gebied van AI voortgebracht, zoals Andrej Karpathy. Er is echter ook de uitdaging van de braindrain. Zijn er mogelijkheden in Slowakije voor iemand die aan AI-projecten wil werken?
Radovan Kavicky: "Er zijn kansen en de AI-industrie groeit snel, maar we hebben nog nooit een AI-unicorn direct in Slowakije gehad. Natuurlijk hebben we het talent (gelukkig is het wereldwijd verspreid), maar we zijn niet in staat om dit talent vast te houden vanwege betere omstandigheden in andere landen, beperkingen in onze wetgeving, zoals geen mogelijkheid om een algoritme te patenteren, en ook het mondiale karakter van de AI-industrie."
Kavicky legde uit dat de Slowaakse overheid en industrie hun mentaliteit moeten veranderen om AI-talent te behouden en te profiteren in plaats van te lijden onder de onvermijdelijke AI-automatisering die eraan komt, en dat zijn regio/CEE/Centraal- en Oost-Europa het hardst getroffen zal worden (als we de voorspellingen mogen geloven).
Hij uitte zijn scepsis over blockchain, maar erkende de expertise van Ben Goertzel en Marek Rosa van GoodAI die werken aan het zo snel mogelijk bereiken van AGI en die AI maar ook technologieën zoals blockchain integreren in hun streven naar AGI.
V: Zie je blockchain, DeFi en dat soort dingen in de toekomst een grotere rol gaan spelen met AI?
Radovan Kavicky: "Ja, maar om het in perspectief te plaatsen...ik zie blockchain als technisch gezien gewoon een heel trage database. Voor mij is blockchain misschien niet de juiste weg voorwaarts...maar misschien heb ik het mis...wie weet...hoe dan ook zou een andere technologie vergelijkbaar met blockchain de ontbrekende schakel kunnen zijn om...het probleem van opslag op te lossen om tot Sterke AI en hopelijk AGI te komen...ik denk dat er iets nog beters dan blockchain aan zit te komen. Heel snel."
Kavicky is enthousiast over de ontwikkelingen in kunstmatige neurale netwerken, maar hij zegt ook dat ze heel anders zijn dan onze menselijke hersenen, en in sommige opzichten zelfs beter.
"Ik ben er niet zeker van dat we allemaal goed begrijpen dat we met zeer gevaarlijke technologieën spelen. We moeten deze technologieën echt goed begrijpen, ze mathematisch doorgronden en ook goed begrijpen hoe ze beslissingen nemen. We moeten echt terug naar de basis en het tijdperk waarin AI een multidisciplinair wetenschapsgebied was... om in principe te leren hoe deze modellen leren."
Kavicky benadrukte dat de AI-industrie opener moet zijn en meer moet samenwerken om deze vooruitgang veilig te realiseren.
"De toekomst is absoluut geweldig, maar het is nu aan ons hoe we die gaan bouwen....en de visie van Sam Altman of anderen zoals hij... Ik denk niet dat deze visie de juiste weg vooruit is. We moeten op zijn minst even stoppen, de realiteit accepteren dat wij, de mensen, in de komende jaren niet langer de slimste dieren of de slimste entiteit op deze planeet zullen zijn... en ons echt afvragen wat dit betekent... voor de hele mensheid en deze wereld die we hebben gecreëerd.
Sommigen zeggen dat we aan het begin staan van het einde van de mensheid... Ik denk van niet. We staan aan het begin van het begin. Wat voor ons ligt is de ultieme test van onze eigen intelligentie. Het vermogen om je aan te passen is een van de definities van intelligentie.
En vergeet niet dat het altijd "aanpassen of sterven" is geweest. Met andere woorden... op een gegeven moment zullen we waarschijnlijk moeten fuseren met de technologie die we nu creëren om concurrerend te blijven (stel je even de wereld voor waarin AI, onze creatie, gebaseerd op onze gegevens, in alles beter is... en dit punt in de menselijke geschiedenis komt eerder dan je verwacht).
De mens-machine (of AI als je wilt) interface of ook de mogelijkheid om ons eigen bewustzijn op machines op te slaan & tussen machines te wisselen, bijv. cloud werkt nog niet, maar deze technologieën komen er ook aan. Wat zou jij doen en hoe zou jij beslissen (als je de mogelijkheid hebt om "eeuwig te leven" of samen te smelten met AI)?
Ik heb hier geen antwoord voor je... Ik weet alleen wat ik zou doen... Ik zal de eerste in de rij zijn als dit gaat werken en ik zou graag de kans grijpen om de huidige beperkingen van de mensheid te overwinnen. We zijn en blijven mensen. Het zit gewoon in onze natuur & dat is het altijd al geweest om grenzen te verleggen en onszelf opnieuw uit te vinden."
Je kunt meer te weten komen over Kavicky's werk op het gebied van AI en Data Science op Slowakije en het GapData Institute.
