Radovan Kavicky er AI- og datavidenskabsevangelist hos AIslovakIA, den nationale platform for AI-udvikling i Slovakiet, og formand for GapData Institute. Den non-profit platform, der støttes af den slovakiske regering, har til formål at forbinde alle aktører i AI-industrien i Slovakiet og udnytte det fulde potentiale i Slovakiets største hjerner til at fremme AI-udviklingen i Slovakiet.
Radovan afsluttede sine studier i finans, så han startede som økonom, men når man taler med ham, er det tydeligt, at hans virkelige passion ligger i datalogi og kunstig intelligens, især når det gælder hans hjemland Slovakiet.
I sin præsentation (tilgængelig på hans GitHub eller direkte @ https://tinyurl.com/slides-globalAIshow) på Global AI Show i Dubai præsenterede Radovan nogle interessante prognoser for, hvornår vi kan forvente stærk AI, AI på menneskeniveau og senere AGI, eller med andre ord den "hellige gral" i al AI-forskning.
Han understregede det voksende behov for at implementere Explainable AI-værktøjer, åbent samarbejde og lære maskinerne vores værdisystem og retsstatsprincipper for at sikre, at AGI bliver alt det, vi håber, den vil blive (i det mindste velvillig over for menneskeheden).
Eugene van der Watt fra DailyAI har talt med Radovan Kavicky om hans syn på den nuværende og fremtidige udvikling inden for kunstig intelligens. Her er et par interessante højdepunkter fra interviewet.
Q: Radovan, du var på et tidspunkt rådgiver for den slovakiske regerings premierminister om kunstig intelligens. Kan du fortælle os mere om det?
Radovan Kavicky: "Ja, jeg arbejdede for Iveta Radičová under den prodemokratiske, reformvenlige regering tilbage i 2010, indtil regeringen desværre faldt i 2011 (i øvrigt på min fødselsdag). Jeg var involveret i forskellige algoritmer og AI-implementeringer for forskellige ministerier, herunder Justitsministeriet, og arbejdede sammen med min daværende kollega fra MESA 10, Martin Valentovič. Vi brugte AI og avancerede datavidenskabsværktøjer på områder som retfærdighed, f.eks. beregning af afstandsvektorer og optimering af retssystemets netværk og forbedring af adgangen til retfærdighed i hele Slovakiet."
Spørgsmål: Forskellige regeringer rundt om i verden har valgt forskellige tilgange til AI-regulering. Hvad synes du om den slovakiske tilgang? Hvilken vej vil man gå med hensyn til regulering?
Radovan Kavicky: "Vi i AIslovakIA er involveret i processen med at skabe og regelmæssigt opdatere strategien for implementering af AI i den offentlige sektor og samarbejder også inden for Europa. Slovakiet er ikke kun medlem af EU eller NATO, men også af OECD, som har sin egen tilgang til gennemsigtighed og regulering med OECD's AI-principper. Baseret på dette formulerer vi også en fælles strategi i Europa."
Radovan forklarede EU's tilgang til AI-regulering gennem AI-loven, som fokuserer på risikovurdering af AI-implementeringer frem for at regulere specifikke teknologier. Han mener, at det er en bedre tilgang sammenlignet med andre lande og regioner i verden, men der mangler et fokus på at regulere selve AI.
Selv om Kavicky er optimistisk med hensyn til fordelene ved AI, ignorerer han ikke de potentielle risici ved AGI, men understreger vigtigheden af at tilpasse AI til menneskelige værdier.
Q: Du nævnte, at OpenAI ikke rigtig er åbent. Hvad er dine tanker om det?
Radovan Kavicky: "Jeg tror stærkt på en open source, åben og akademisk tilgang til at nå den slags milepæle, der fører til stærk AI, HLAI, AGI eller måske endda superintelligens i de kommende år. OpenAI er i øjeblikket kun åben af navn ... faktisk er det en af de mest lukkede og hemmelighedsfulde organisationer i verden, der rent faktisk arbejder på at nå AGI (Chat GPT eller GPT 4 er bare et halvprodukt, der fører til stærk AI), og vi er nødt til at forberede os på de ændringer, der kommer med AGI, fordi vi skaber noget, der vil overvinde den menneskelige intelligens. Og det er ikke en joke. Vi er meget tæt på, og vi har kun et årti, måske endda mindre/få år til at blive klar. Hvis OpenAI når så langt, er jeg virkelig bekymret ... for i øjeblikket kan vi ikke engang tjekke deres forskning akademisk eller finde ud af, på baggrund af hvilke data de har skabt GPT 4. Det er ikke noget, der bør accepteres."
Med henvisning til Sofia, en humanoid AI-robot, som han var med til at tale om på Global AI Show, sagde Kavicky, "Tjek lige Sofias skaber, Ben Goertzel, hans vision om at kombinere teknologier som blockchain og LLM'er, naturlig sprogbehandling og andre teknologier med en decentral tilgang med det endelige mål at maksimere fordelene for menneskeheden og det globale samfund er helt anderledes end Sam Altmans med det endelige mål at maksimere profitten til fordel for en konkret virksomhed, Microsoft i dette tilfælde. Og jeg tror stærkt på åbenhed og Ben's tilgang, ikke Sam's."
Kavicky understregede behovet for en open source-tilgang til at håndtere potentielle risici.
Spørgsmål: Der er forskellige meninger om AGI. Yann LeCun mener, at det ligger langt ude i fremtiden, og at sikkerheden ikke er et problem, mens Elon Musk mener, at det er nært forestående og udgør en eksistentiel risiko. Hvad mener du om det?
Radovan Kavicky: "Jeg tror kun, vi skal bekymre os, hvis vi gør det dårligt, ikke på en åben og gennemsigtig måde, og hvis vi implementerer det dårligt, kan det virkelig blive menneskehedens sidste skabelse. Igen, det er ikke for sjov, det kan virkelig ske, og der er en ikke-nul chance for, at det vil ske. For at undgå det er vi nødt til at lære vores værdisystem til disse maskiner, teknologier og modeller, som vi skaber og kalder AI ... og selv om vi ikke kan lære dem vores værdisystem eller love ... bør vi i det mindste forsøge at lære dem empati og respekt for vores love og for alt, hvad der er menneskeligt."
Q: Slovakiet har produceret nogle bemærkelsesværdige navne inden for AI, som Andrej Karpathy. Men der er også en udfordring med hjerneflugt. Er der muligheder i Slovakiet for en person, der ønsker at arbejde med AI-projekter?
Radovan Kavicky: "Der er muligheder, og AI-industrien vokser hurtigt, men vi har endnu aldrig haft en AI-enhjørning direkte i Slovakiet. Selvfølgelig har vi talentet (heldigvis er det fordelt globalt), men vi er ikke i stand til at holde på det på grund af bedre forhold i andre lande, begrænsninger i vores lovgivning, som f.eks. ingen mulighed for at patentere en algoritme, og også AI-industriens globale karakter."
Kavicky forklarede, at den slovakiske regering og industri er nødt til at ændre deres tankegang for at fastholde AI-talenter og drage fordel af den uundgåelige AI-automatisering, der er på vej, i stedet for at lide under den, og at hans region/CEE/Central- og Østeuropa vil blive hårdest ramt (hvis vi skal tro på forudsigelserne).
Han udtrykte skepsis over for blockchain, men anerkendte ekspertisen hos Ben Goertzel og Marek Rosa fra GoodAI, som arbejder på at nå AGI så hurtigt som muligt og integrere AI, men også teknologier som blockchain i deres stræben efter AGI.
Spørgsmål: Ser du blockchain, DeFi og den slags blive en større del af AI i fremtiden?
Radovan Kavicky: "Ja, men for at sætte det i perspektiv ... ser jeg blockchain som teknisk set bare en meget langsom database. For mig er blockchain måske ikke den rigtige vej frem ... men måske tager jeg fejl ... hvem ved ... uanset hvad kan en anden teknologi, der ligner blockchain, være det manglende led til ... at løse problemet med lagring for at nå frem til stærk AI og forhåbentlig AGI ... Jeg tror, at der kommer noget endnu bedre end blockchain. Meget snart."
Kavicky er begejstret for udviklingen inden for kunstige neurale net, men han siger også, at de er meget forskellige fra vores menneskelige hjerner og faktisk endnu bedre på nogle måder.
"Jeg er ikke sikker på, at vi alle sammen helt forstår, at vi leger med meget farlige teknologier. Vi er virkelig nødt til at have en dyb forståelse af disse teknologier og forstå dem matematisk og også have en dyb forståelse af, hvordan de træffer beslutninger. Vi bør virkelig vende tilbage til det grundlæggende og den æra, hvor AI var et tværfagligt videnskabeligt område ... for grundlæggende at lære, hvordan disse modeller lærer."
Kavicky understregede behovet for, at AI-industrien er mere åben og samarbejdende for at opnå disse fremskridt på en sikker måde.
"Fremtiden er helt fantastisk, men det er nu op til os, hvordan vi vil bygge den.... og Sam Altmans vision eller andre som ham... Jeg tror ikke, at denne vision er den rigtige vej frem. Vi bør i det mindste stoppe op et stykke tid og acceptere, at vi mennesker i de kommende år ikke længere vil være de klogeste dyr eller den klogeste enhed på denne planet ... og virkelig spørge os selv, hvad det betyder ... for hele menneskeheden og den verden, vi har skabt.
Nogle siger, at vi er ved begyndelsen til enden på menneskeheden... Det tror jeg ikke. Vi er i begyndelsen af begyndelsen. Det, der ligger foran os, er den ultimative test af vores egen intelligens. Evnen til at tilpasse sig er en af definitionerne på intelligens.
Og glem ikke, at det altid har været "tilpas dig eller dø". Med andre ord... på et tidspunkt bliver vi nok nødt til at fusionere med den teknologi, vi skaber nu, for at forblive konkurrencedygtige (forestil dig bare et øjeblik en verden, hvor AI, vores skabelse, baseret på vores data, er bedre til alt... og dette punkt i menneskets historie kommer hurtigere, end du forventer).
Grænsefladen mellem menneske og maskine (eller AI, hvis du vil) eller også evnen til at lagre vores egen bevidsthed på maskiner og skifte mellem maskiner, f.eks. cloud, fungerer ikke endnu, men disse teknologier er også på vej. Hvad ville du gøre, og hvordan ville du beslutte dig (hvis du havde mulighed for at "leve for evigt" eller smelte sammen med AI)?
Jeg har ikke svaret til dig her ... Jeg ved kun, hvad jeg ville gøre ... Jeg vil være den første i køen, hvis dette kommer til at fungere, og jeg vil med glæde tage chancen for at overvinde menneskehedens nuværende begrænsninger. Vi er og bliver stadig mennesker. Det ligger simpelthen i vores natur og har altid gjort det at skubbe grænser og genopfinde os selv."
Du kan finde ud af mere om Kavickys arbejde med AI og Data Science på AIslovakIA og GapData Institute.
