Radovan Kavicky är en AI & Data Science Evangelist på AIslovakIA, den nationella plattformen för AI-utveckling i Slovakien, och ordförande för GapData Institute. Den ideella plattformen som stöds av den slovakiska regeringen syftar till att ansluta alla aktörer i AI-industrin i Slovakien och använda den fulla potentialen hos Slovakiens största hjärnor för att främja AI-utvecklingen i Slovakien.
Radovan avslutade sina studier i finans och började som ekonom, men när man pratar med honom är det tydligt att hans verkliga passion ligger i Data Science & AI, särskilt när det gäller hans hemland Slovakien.
I sin presentation (som finns tillgänglig på hans GitHub eller direkt @ https://tinyurl.com/slides-globalAIshow) på Global AI Show i Dubai presenterade Radovan några intressanta prognoser för när vi kan förvänta oss stark AI, AI på mänsklig nivå och senare AGI, eller med andra ord den "heliga graalen" inom all AI-forskning.
Han betonade det växande behovet av att implementera Explainable AI-verktyg, öppet samarbete och att lära maskiner vårt värdesystem och vår rättsstat för att säkerställa att AGI blir allt vi hoppas att det ska bli (åtminstone välvilligt mot mänskligheten).
Eugene van der Watt från DailyAI talade med Radovan Kavicky om hans syn på nuvarande och framtida AI-utveckling. Här är några intressanta höjdpunkter från intervjun.
F: Radovan, du var en gång rådgivare åt den slovakiska regeringens premiärminister i frågor som rörde AI. Kan du berätta mer om det?
Radovan Kavicky: "Ja, jag arbetade för Iveta Radičová under den prodemokratiska, reformvänliga regeringen 2010 fram till dess att regeringen tyvärr föll 2011 (för övrigt på min födelsedag). Jag var involverad i olika algoritmer och AI-implementeringar för olika ministerier, inklusive justitieministeriet, och arbetade tillsammans med min kollega från MESA 10 vid den tiden, Martin Valentovič. Vi använde AI och avancerade datavetenskapliga verktyg inom områden som rättvisa, t.ex. beräkning av avståndsvektorer och optimering av rättssystemets nätverk samt förbättring av tillgängligheten till rättvisa i hela Slovakien."
F: Olika regeringar runt om i världen har haft olika förhållningssätt till reglering av AI. Vad tycker du om den slovakiska strategin? Vilken väg kommer att tas där när det gäller reglering?
Radovan Kavicky: "Vi inom AIslovakIA är involverade i processen med att skapa och regelbundet uppdatera strategin för implementering av AI i den offentliga sektorn, och samarbetar även inom Europa. Slovakien är inte bara medlem i EU eller NATO utan även i OECD, som har sin egen strategi för transparens och reglering med OECD:s AI-principer. Baserat på detta formulerar vi också en gemensam strategi inom Europa."
Radovan förklarade EU:s strategi för AI-reglering genom AI Act, som fokuserar på riskbedömning av AI-implementeringar snarare än att reglera specifika tekniker. Han anser att detta är ett bättre tillvägagångssätt jämfört med andra länder och regioner i världen, men att det saknas ett fokus på att reglera AI i sig.
Kavicky är optimistisk när det gäller fördelarna med AI, men han bortser inte från de potentiella riskerna med AGI utan betonar vikten av att anpassa AI till mänskliga värderingar.
F: Du nämnde att OpenAI inte är riktigt öppet. Vad är dina tankar om det?
Radovan Kavicky: "Jag tror starkt på en öppen källkod, ett öppet och akademiskt tillvägagångssätt för att nå dessa typer av milstolpar som leder till stark AI, HLAI, AGI eller kanske till och med superintelligens under de kommande åren. OpenAI är för närvarande bara öppet till namnet ... i själva verket är det en av de mest slutna och hemliga organisationerna i världen som faktiskt arbetar med att nå AGI (Chat GPT eller GPT 4 är bara en halvprodukt som leder till stark AI) och vi måste förbereda oss för förändringar som kommer med AGI eftersom vi skapar något som kommer att övervinna mänsklig intelligens. Och detta är inte ett skämt. Vi är mycket nära detta och vi har bara ett decennium, kanske till och med mindre/få år på oss att bli redo. Om OpenAI når detta är jag verkligen orolig ... eftersom vi för närvarande inte ens kan kontrollera deras forskning akademiskt eller få veta baserat på vilka data de skapade GPT 4. Detta är inte något som bör accepteras."
Kavicky refererade till Sofia, en humanoid AI-robot som var hans cokeynote-talare på Global AI Show, "Kontrollera bara Sofias skapare, Ben Goertzel, hans vision om att kombinera tekniker som blockchain och LLM, naturlig språkbehandling och andra tekniker med decentraliserad strategi slutmål för att maximera nyttan för mänskligheten och det globala samhället är helt annorlunda än Sam Altmans slutmål med slutmål för att maximera vinsten till förmån för konkret företag, Microsoft i det här fallet. Och jag tror starkt på öppenhet och Ben, inte Sam."
Kavicky betonade behovet av en öppen källkodsstrategi för att hantera potentiella risker.
Fråga: Det finns olika åsikter om AGI. Yann LeCun anser att det ligger långt fram i tiden och att säkerheten inte är något problem, medan Elon Musk anser att det är nära förestående och utgör en existentiell risk. Vad tycker du om det?
Radovan Kavicky: "Jag tror att vi egentligen bara ska oroa oss om vi gör det dåligt, inte på ett öppet, transparent sätt, och om vi genomför det dåligt kan detta verkligen bli mänsklighetens sista skapelse. Återigen, det är inget skämt, det här kan verkligen hända och det finns en icke-noll chans att det kommer att hända. För att undvika det måste vi lära ut vårt värdesystem till dessa maskiner, tekniker och modeller som vi skapar och kallar AI ... och även om vi inte kommer att kunna lära dem vårt värdesystem eller våra lagar ... bör vi åtminstone försöka lära dem empati och respekt för våra lagar och för allt mänskligt."
F: Slovakien har producerat några anmärkningsvärda namn inom AI, som Andrej Karpathy. Men det finns också en utmaning i form av kompetensflykt. Finns det möjligheter i Slovakien för den som vill arbeta med AI-projekt?
Radovan Kavicky: "Det finns möjligheter och AI-industrin växer snabbt, men vi har ännu aldrig haft någon AI-enhörning direkt i Slovakien. Vi har förstås talangerna (som tack och lov är globalt spridda), men vi kan inte behålla dem på grund av bättre villkor i andra länder, begränsningar i vår lagstiftning, som att det inte går att patentera en algoritm, och även AI-branschens globala karaktär."
Kavicky förklarade att den slovakiska regeringen och industrin måste ändra sitt tankesätt för att behålla AI-talanger och dra nytta av, snarare än att drabbas av, den oundvikliga AI-automatisering som kommer, och hans region/CEE/Central- och Östeuropa kommer att drabbas hårdast (om vi tror på prognoserna).
Han uttryckte skepsis mot blockchain men erkände expertisen hos Ben Goertzel och Marek Rosa från GoodAI som arbetar med att nå AGI så snart som möjligt och integrera AI men också teknologier som blockchain i sin strävan efter AGI.
F: Ser du att blockchain, DeFi och liknande saker kommer att bli en större del av AI i framtiden?
Radovan Kavicky: "Ja, men för att sätta det i perspektiv ... ser jag blockchain som tekniskt sett bara en mycket långsam databas. För mig är blockchain kanske inte rätt väg framåt ... men kanske har jag fel ... vem vet ... i vilket fall som helst kan en annan teknik som liknar blockchain vara den saknade länken för att ... lösa problemet med lagring för att nå Strong AI och förhoppningsvis AGI ... Jag tror att något ännu bättre än blockchain kommer. Mycket snart."
Kavicky är entusiastisk över utvecklingen av artificiella neuronnät, men han säger också att de skiljer sig mycket från våra mänskliga hjärnor, och att de faktiskt är bättre på vissa sätt.
"Jag är inte säker på att vi alla fullt ut förstår att vi leker med mycket farlig teknik. Vi måste verkligen ha en djup förståelse för dessa teknologier och förstå dem matematiskt och även ha en djup förståelse för hur de fattar beslut. Vi borde verkligen gå tillbaka till grunderna och den tid då AI var ett tvärvetenskapligt vetenskapsområde ... för att i grunden lära oss hur dessa modeller lär sig."
Kavicky betonade att AI-industrin måste vara mer öppen och samarbetsinriktad för att kunna göra dessa framsteg på ett säkert sätt.
"Framtiden är helt fantastisk, men det är upp till oss nu hur vi ska bygga den....och Sam Altmans vision eller andra som honom ... Jag tror inte att denna vision är rätt väg framåt. Vi borde åtminstone stanna upp ett tag, acceptera verkligheten att vi människor under de kommande åren inte längre kommer att vara de smartaste djuren eller den smartaste enheten på den här planeten ... och verkligen fråga oss själva vad detta innebär ... för hela mänskligheten och den värld som vi har skapat.
Vissa säger att vi befinner oss i början av slutet på mänskligheten... Jag tror inte det. Vi befinner oss i början av början. Det som ligger framför oss är det ultimata testet av vår egen intelligens. Förmågan att anpassa sig är en av definitionerna på intelligens.
Och glöm inte att det alltid har varit "anpassa dig eller dö". Med andra ord ... någon gång måste vi förmodligen smälta samman med den teknik som vi nu skapar för att förbli konkurrenskraftiga (föreställ dig bara för en sekund en värld där AI, vår skapelse, baserad på våra data, är bättre på allt ... och den här punkten i mänsklighetens historia kommer tidigare än du tror).
Gränssnittet mellan människa och maskin (eller AI om du så vill) eller möjligheten att lagra vårt eget medvetande på maskiner och växla mellan maskiner, t.ex. moln, fungerar inte ännu, men dessa tekniker är också på väg. Vad skulle du göra och hur skulle du bestämma dig (om du har möjlighet att "leva för evigt" eller smälta samman med AI)?
Jag har inte svaret till dig här... Jag vet bara vad jag skulle göra... Jag kommer att vara den första i kön om detta kommer att fungera och jag skulle gärna ta chansen att övervinna mänsklighetens nuvarande begränsningar. Vi är och förblir människor. Det ligger helt enkelt i vår natur och har alltid legat i vår natur att tänja på gränser och återuppfinna oss själva."
Du kan läsa mer om Kavickys arbete inom AI och Data Science på AIslovakIA och GapData Institute.
