Radovan Kavicky er AI- og datavitenskapsevangelist ved AIslovakIA, den nasjonale plattformen for AI-utvikling i Slovakia, og president for GapData Institute. Den ideelle plattformen støttes av den slovakiske regjeringen og har som mål å koble sammen alle aktører i AI-bransjen i Slovakia og utnytte det fulle potensialet til Slovakias største hjerner for å fremme AI-utviklingen i Slovakia.
Radovan er utdannet finansøkonom, men når man snakker med ham, er det tydelig at hans virkelige lidenskap ligger i datavitenskap og kunstig intelligens, spesielt når det gjelder hjemlandet hans, Slovakia.
I sin presentasjon (tilgjengelig på hans GitHub eller direkte @ https://tinyurl.com/slides-globalAIshow) på Global AI Show i Dubai presenterte Radovan noen interessante prognoser for når vi kan forvente sterk AI, AI på menneskelig nivå og senere AGI, eller med andre ord den "hellige gral" innen all AI-forskning.
Han understreket det økende behovet for å implementere Explainable AI-verktøy, åpent samarbeid og lære maskinene vårt verdisystem og våre rettsregler for å sikre at AGI blir alt vi håper den vil bli (i det minste velvillig mot menneskeheten).
Eugene van der Watt fra DailyAI har snakket med Radovan Kavicky om hans syn på dagens og fremtidens AI-utvikling. Her er noen interessante høydepunkter fra intervjuet.
Spørsmål: Radovan, du var en gang i tiden rådgiver for statsministeren i den slovakiske regjeringen når det gjaldt kunstig intelligens. Kan du fortelle oss mer om det?
Radovan Kavicky: "Ja, jeg jobbet for Iveta Radičová under den prodemokratiske, reformvennlige regjeringen i 2010, frem til regjeringen dessverre falt i 2011 (for øvrig på bursdagen min). Jeg var involvert i ulike algoritmer og AI-implementeringer for forskjellige departementer, inkludert Justisdepartementet, og jobbet sammen med min daværende kollega fra MESA 10, Martin Valentovič. Vi brukte AI og avanserte datavitenskapelige verktøy på områder som justis, f.eks. til å beregne avstandsvektorer og optimalisere rettssystemets nettverk, og til å forbedre tilgjengeligheten til rettsvesenet i hele Slovakia."
Spørsmål: Ulike regjeringer rundt om i verden har valgt ulike tilnærminger til AI-regulering. Hva tenker du om den slovakiske tilnærmingen? Hvilken vei vil man gå der når det gjelder regulering?
Radovan Kavicky: "Vi i AIslovakIA er involvert i prosessen med å utarbeide og jevnlig oppdatere strategien for implementering av AI i offentlig sektor, og vi samarbeider også innenfor Europa. Slovakia er ikke bare medlem av EU eller NATO, men også av OECD, som har sin egen tilnærming til åpenhet og regulering med OECDs AI-prinsipper. På bakgrunn av dette utformer vi også en felles strategi i Europa."
Radovan forklarte EUs tilnærming til AI-regulering gjennom AI-loven, som fokuserer på risikovurdering av AI-implementeringer i stedet for å regulere spesifikke teknologier. Han mener dette er en bedre tilnærming enn i andre land og regioner i verden, men det som mangler, er et fokus på å regulere AI i seg selv.
Kavicky er optimistisk når det gjelder fordelene med kunstig intelligens, men han ser ikke bort fra de potensielle risikoene ved kunstig intelligens, og understreker at det er viktig å tilpasse kunstig intelligens til menneskelige verdier.
Spørsmål: Du nevnte at OpenAI egentlig ikke er åpent. Hva tenker du om det?
Radovan Kavicky: "Jeg har stor tro på en åpen kildekode, åpen og akademisk tilnærming for å nå denne typen milepæler som leder mot sterk AI, HLAI, AGI eller kanskje til og med superintelligens i årene som kommer. OpenAI er for øyeblikket bare åpent i navnet ... faktisk er det en av de mest lukkede og hemmelighetsfulle organisasjonene i verden som faktisk jobber med å nå AGI (Chat GPT eller GPT 4 er bare et halvprodukt som fører mot sterk AI), og vi må forberede oss på endringer som kommer med AGI fordi vi skaper noe som vil overvinne menneskelig intelligens. Og dette er ikke en spøk. Vi er veldig nær dette, og vi har bare et tiår, kanskje enda mindre/få år på oss til å bli klare. Hvis OpenAI når dette, er jeg virkelig bekymret ... for i dag kan vi ikke engang sjekke forskningen deres akademisk eller få vite hvilke data de har skapt GPT 4 på grunnlag av. Dette er ikke noe som bør aksepteres."
Kavicky refererte til Sofia, en humanoid AI-robot som han var med å holde foredrag om på Global AI Show, "Bare sjekk Sofias skaper, Ben Goertzel, hans visjon om å kombinere teknologier som blockchain og LLM-er, naturlig språkbehandling og andre teknologier med desentralisert tilnærming med det endelige målet om å maksimere fordelene for menneskeheten og det globale samfunnet er helt annerledes enn Sam Altman med det endelige målet om å maksimere profitt til fordel for et konkret selskap, Microsoft i dette tilfellet. Og jeg har stor tro på åpenhet og tilnærmingen til Ben, ikke Sam."
Kavicky understreket behovet for en åpen kildekode-tilnærming for å håndtere potensielle risikoer.
Spørsmål: Det er ulike meninger om AGI. Yann LeCun mener det er langt frem i tid og at sikkerheten ikke er et problem, mens Elon Musk mener det er nært forestående og utgjør en eksistensiell risiko. Hva mener du om dette?
Radovan Kavicky: "Jeg tror vi egentlig bare bør bekymre oss hvis vi gjør det på en dårlig måte, ikke på en åpen, transparent måte, og hvis vi implementerer det dårlig, kan dette virkelig være menneskehetens siste skapelse. Igjen, dette er ingen spøk, det kan virkelig skje, og det er en ikke-null sjanse for at det vil skje. For å unngå det må vi lære disse maskinene, teknologiene og modellene som vi skaper og kaller AI, vårt verdisystem ... og selv om vi ikke vil være i stand til å lære dem vårt verdisystem eller våre lover ... bør vi i det minste prøve å lære dem empati og respekt for våre lover og for alt som er menneskelig."
Spørsmål: Slovakia har produsert noen bemerkelsesverdige navn innen AI, som Andrej Karpathy. Men det er også en utfordring med hjerneflukt. Finnes det muligheter i Slovakia for noen som ønsker å jobbe med AI-prosjekter?
Radovan Kavicky: "Det finnes muligheter, og AI-bransjen vokser raskt, men vi har ennå aldri hatt en AI-enhjørning direkte i Slovakia. Vi har selvfølgelig talentene (som heldigvis er spredt over hele verden), men vi klarer ikke å holde på dem på grunn av bedre vilkår i andre land, begrensninger i lovgivningen vår, for eksempel at det ikke er mulig å patentere en algoritme, og AI-bransjens globale karakter."
Kavicky forklarte at slovakiske myndigheter og slovakisk industri må endre tankesett for å beholde AI-talenter og dra nytte av, snarere enn å lide under, den uunngåelige AI-automatiseringen som er på vei, og at hans region/CEE/Sentral- og Øst-Europa vil bli hardest rammet (hvis vi skal tro spådommene).
Han uttrykte skepsis til blockchain, men anerkjente ekspertisen til Ben Goertzel og Marek Rosa fra GoodAI, som jobber med å nå AGI så snart som mulig og integrere AI, men også teknologier som blockchain, i jakten på AGI.
Spørsmål: Ser du for deg at blokkjeder, DeFi og slike ting vil bli en større del av AI i fremtiden?
Radovan Kavicky: "Ja, men for å sette det i perspektiv ... jeg ser på blockchain som teknisk sett bare en veldig treg database. For meg er blokkjede kanskje ikke den rette veien videre ... men kanskje jeg tar feil ... hvem vet ... uansett kan en annen teknologi som ligner på blokkjede være det manglende leddet for å ... løse problemet med lagring for å nå sterk AI og forhåpentligvis AGI ... Jeg tror at noe enda bedre enn blokkjede kommer. Veldig snart."
Kavicky er begeistret for utviklingen av kunstige nevrale nett, men han sier også at de er svært forskjellige fra menneskehjernen, og faktisk bedre på noen måter.
"Jeg er ikke sikker på at vi alle forstår fullt ut at vi leker med svært farlig teknologi. Vi må virkelig ha en dyp forståelse av disse teknologiene og forstå dem matematisk, og vi må også ha en dyp forståelse av hvordan de tar beslutninger. Vi bør virkelig gå tilbake til det grunnleggende og den tiden da AI var et tverrfaglig vitenskapsområde ... for å lære hvordan disse modellene lærer."
Kavicky understreket at AI-bransjen må være mer åpen og samarbeidsorientert for å oppnå disse fremskrittene på en trygg måte.
"Fremtiden er helt fantastisk, men det er opp til oss nå hvordan vi skal bygge den....og visjonen til Sam Altman eller andre som ham ... Jeg tror ikke denne visjonen er den rette veien fremover. Vi bør i det minste stoppe opp en stund, akseptere at vi mennesker i løpet av de kommende årene ikke lenger vil være de smarteste dyrene eller den smarteste enheten på denne planeten ... og virkelig spørre oss selv hva dette betyr ... for hele menneskeheten og denne verdenen som vi har skapt.
Noen sier at vi er ved begynnelsen av slutten for menneskeheten... Jeg tror ikke det. Vi er ved begynnelsen av begynnelsen. Det som ligger foran oss, er den ultimate testen på vår egen intelligens. Evnen til å tilpasse seg er en av definisjonene på intelligens.
Og ikke glem at det alltid har vært "tilpass deg eller dø". Med andre ord ... på et eller annet tidspunkt vil vi sannsynligvis måtte slå oss sammen med teknologien vi nå skaper for å holde oss konkurransedyktige (bare forestill deg et øyeblikk en verden der AI, vår skapelse, basert på våre data, er bedre i alt ... og dette punktet i menneskets historie kommer raskere enn du forventer).
Grensesnittet mellom menneske og maskin (eller AI om du vil) eller også muligheten til å lagre vår egen bevissthet på maskiner og bytte mellom maskiner, f.eks. skyen, fungerer ikke ennå, men disse teknologiene kommer også. Hva ville du gjort, og hvordan ville du bestemt deg (hvis du har muligheten til å "leve evig" eller smelte sammen med AI)?
Jeg har ikke svaret til deg her ... Jeg vet bare hva jeg ville gjort ... Jeg vil være den første i køen hvis dette kommer til å fungere, og jeg vil med glede ta sjansen på å overvinne menneskehetens nåværende begrensninger. Vi er og forblir mennesker. Det ligger rett og slett i vår natur og har alltid ligget i vår natur å sprenge grenser og gjenoppfinne oss selv."
Du kan finne ut mer om Kavickys arbeid innen AI og datavitenskap på AIslovakIA og GapData Institute.
