Radovan Kavicky ist ein AI & Data Science Evangelist bei AIslovakIA, der nationalen Plattform für die KI-Entwicklung in der Slowakei, und Präsident des GapData Institute. Die von der slowakischen Regierung unterstützte gemeinnützige Plattform hat das Ziel, alle Akteure der KI-Branche in der Slowakei zu vernetzen und das volle Potenzial der besten Köpfe der Slowakei zu nutzen, um die KI-Entwicklung in der Slowakei zu fördern.
Radovan schloss sein Studium der Finanzwissenschaften ab, begann also als Wirtschaftswissenschaftler, aber wenn man sich mit ihm unterhält, wird klar, dass seine wahre Leidenschaft den Bereichen Data Science und KI gilt, insbesondere in Bezug auf sein Heimatland Slowakei.
In seiner Präsentation (verfügbar auf seiner GitHub oder direkt @ https://tinyurl.com/slides-globalAIshow) auf der Global AI Show in Dubai präsentierte Radovan einige interessante Prognosen darüber, wann wir mit starker KI, KI auf menschlichem Niveau und später mit AGI rechnen können, oder mit anderen Worten mit dem "heiligen Gral" der KI-Forschung.
Er betonte die wachsende Notwendigkeit, erklärbare KI-Tools zu implementieren, offen zusammenzuarbeiten und den Maschinen unser Wertesystem und unsere Rechtsstaatlichkeit beizubringen, um sicherzustellen, dass AGI all das wird, was wir uns von ihr erhoffen (zumindest wohlwollend gegenüber der Menschheit).
Eugene van der Watt von DailyAI sprach mit Radovan Kavicky über seine Ansichten zu aktuellen und zukünftigen KI-Entwicklungen. Hier sind ein paar interessante Highlights aus dem Interview.
F: Radovan, Sie waren eine Zeit lang Berater des slowakischen Premierministers in Sachen künstliche Intelligenz. Können Sie uns mehr darüber erzählen?
Radovan Kavicky: "Ja, ich habe für Iveta Radičová während der pro-demokratischen, reformorientierten Regierung im Jahr 2010 gearbeitet, bis die Regierung leider 2011 gestürzt wurde (übrigens an meinem Geburtstag). Ich war an verschiedenen Algorithmen und KI-Implementierungen für verschiedene Ministerien beteiligt, einschließlich des Justizministeriums, und arbeitete mit meinem damaligen Kollegen von MESA 10, Martin Valentovič, zusammen. Wir setzten KI und fortschrittliche Data-Science-Tools in Bereichen wie der Justiz ein, z. B. zur Berechnung von Entfernungsvektoren und zur Optimierung des Justiznetzes sowie zur Verbesserung des Zugangs zur Justiz in der Slowakei."
F: Verschiedene Regierungen auf der ganzen Welt haben unterschiedliche Ansätze zur Regulierung von KI gewählt. Was halten Sie von dem slowakischen Ansatz? Welcher Weg wird dort in Bezug auf die Regulierung eingeschlagen?
Radovan Kavicky: "Wir von AIslovakIA sind in den Prozess der Erstellung und regelmäßigen Aktualisierung der Strategie für die KI-Implementierung im öffentlichen Sektor eingebunden und arbeiten auch innerhalb Europas zusammen. Die Slowakei ist nicht nur Mitglied der EU oder der NATO, sondern auch der OECD, die mit den KI-Prinzipien der OECD einen eigenen Ansatz für Transparenz und Regulierung hat. Auf dieser Grundlage formulieren wir auch eine gemeinsame Strategie innerhalb Europas."
Radovan erläuterte den Ansatz der EU zur KI-Regulierung durch das KI-Gesetz, das sich auf die Risikobewertung von KI-Implementierungen und nicht auf die Regulierung bestimmter Technologien konzentriert. Seiner Meinung nach ist dies ein besserer Ansatz im Vergleich zu anderen Ländern und Regionen weltweit, aber was fehlt, ist der Fokus auf die Regulierung von KI selbst.
Kavicky ist zwar optimistisch, was die Vorteile der KI angeht, ignoriert aber nicht die potenziellen Risiken der AGI, sondern betont, wie wichtig es ist, die KI mit menschlichen Werten in Einklang zu bringen.
F: Sie haben erwähnt, dass OpenAI nicht wirklich offen ist. Was denken Sie darüber?
Radovan Kavicky: "Ich glaube fest an einen quelloffenen, offenen und akademischen Ansatz, um diese Art von Meilensteinen zu erreichen, die in den kommenden Jahren zu starker KI, HLAI, AGI oder vielleicht sogar Superintelligenz führen. OpenAI ist derzeit nur dem Namen nach offen... tatsächlich ist es eine der geschlossensten und geheimnisvollsten Organisationen weltweit, die daran arbeitet, AGI zu erreichen (Chat GPT oder GPT 4 ist nur ein Halbprodukt, das zu starker KI führt), und wir müssen uns auf die Veränderungen vorbereiten, die mit AGI kommen werden, weil wir etwas schaffen, das die menschliche Intelligenz überwinden wird. Und das ist kein Scherz. Wir stehen kurz davor und haben nur noch ein Jahrzehnt, vielleicht sogar weniger/wenige Jahre, um uns darauf vorzubereiten. Wenn OpenAI dies erreicht, bin ich wirklich besorgt... denn derzeit können wir nicht einmal ihre Forschung wissenschaftlich überprüfen oder herausfinden, auf welcher Datengrundlage sie GPT 4 geschaffen haben. Das ist nichts, was man akzeptieren sollte."
Mit Bezug auf Sofia, einen humanoiden KI-Roboter, der auf der Global AI Show als Co-Keynote-Sprecher auftrat, sagte Kavicky, "Schauen Sie sich den Schöpfer von Sofia, Ben Goertzel, an. Seine Vision, Technologien wie Blockchain und LLMs, natürliche Sprachverarbeitung und andere Technologien mit einem dezentralisierten Ansatz zu kombinieren, mit dem Ziel, den Nutzen für die Menschheit und die globale Gemeinschaft zu maximieren, ist völlig anders als die von Sam Altman mit dem Ziel der Gewinnmaximierung zum Nutzen eines konkreten Unternehmens, in diesem Fall Microsoft. Und ich glaube fest an Offenheit und den Ansatz von Ben, nicht von Sam."
Kavicky betonte die Notwendigkeit eines Open-Source-Konzepts zur Bewältigung potenzieller Risiken.
F: Über AGI gibt es unterschiedliche Meinungen. Yann LeCun glaubt, dass sie noch weit entfernt ist und die Sicherheit kein Problem darstellt, während Elon Musk glaubt, dass sie unmittelbar bevorsteht und ein existenzielles Risiko darstellt. Was halten Sie davon?
Radovan Kavicky: "Ich denke, wir sollten uns wirklich nur dann Sorgen machen, wenn wir es schlecht machen, nicht auf offene, transparente Weise, und wenn wir es schlecht umsetzen, könnte dies wirklich die letzte Schöpfung der Menschheit sein. Nochmals, das ist kein Scherz, das kann wirklich passieren, und die Wahrscheinlichkeit, dass es passiert, ist nicht gleich Null. Um das zu verhindern, müssen wir diesen Maschinen, Technologien und Modellen, die wir erschaffen und KI nennen, unser Wertesystem beibringen... und selbst wenn wir nicht in der Lage sind, ihnen unser Wertesystem oder unsere Gesetze beizubringen... sollten wir zumindest versuchen, ihnen Empathie und Respekt für unsere Gesetze und für alles Menschliche beizubringen."
F: Die Slowakei hat einige bemerkenswerte Namen in der KI hervorgebracht, wie Andrej Karpathy. Allerdings gibt es auch das Problem der Abwanderung von Fachkräften. Gibt es in der Slowakei Möglichkeiten für jemanden, der an KI-Projekten arbeiten möchte?
Radovan Kavicky: "Es gibt Möglichkeiten und die KI-Branche wächst schnell, aber wir hatten noch nie ein KI-Einhorn direkt in der Slowakei. Natürlich haben wir die Talente (zum Glück sind sie weltweit verteilt), aber wir sind nicht in der Lage, diese Talente zu halten, weil die Bedingungen in anderen Ländern besser sind, unsere Gesetzgebung Beschränkungen vorsieht, wie z. B. die fehlende Möglichkeit, einen Algorithmus zu patentieren, und auch die globale Natur der KI-Branche.
Kavicky erklärte, dass die slowakische Regierung und die Industrie ihre Denkweise ändern müssen, um KI-Talente zu halten und von der unvermeidlichen KI-Automatisierung, die kommen wird, zu profitieren, anstatt darunter zu leiden, und dass seine Region/CEE/Mittel- und Osteuropa am stärksten betroffen sein wird (wenn wir den Vorhersagen glauben).
Er äußerte sich skeptisch gegenüber Blockchain, würdigte aber die Expertise von Ben Goertzel und Marek Rosa von GoodAI, die daran arbeiten, AGI so schnell wie möglich zu erreichen und KI, aber auch Technologien wie Blockchain in ihr Streben nach AGI zu integrieren.
F: Sehen Sie, dass Blockchain, DeFi und ähnliche Dinge in Zukunft eine größere Rolle bei der KI spielen werden?
Radovan Kavicky: "Ja, aber um es ins rechte Licht zu rücken... ich sehe Blockchain technisch gesehen nur als eine sehr langsame Datenbank. Für mich ist Blockchain vielleicht nicht der richtige Weg in die Zukunft... aber vielleicht liege ich ja falsch... wer weiß... so oder so könnte eine andere Technologie, die der Blockchain ähnlich ist, das fehlende Glied sein, um... das Problem der Speicherung zu lösen, um eine starke KI und hoffentlich AGI zu erreichen... Ich glaube, dass etwas noch Besseres als Blockchain kommen wird. Sehr bald."
Kavicky ist begeistert von den Entwicklungen im Bereich der künstlichen neuronalen Netze, aber er sagt auch, dass sie sich sehr von unseren menschlichen Gehirnen unterscheiden und in mancher Hinsicht sogar besser sind.
"Ich bin mir nicht sicher, ob wir alle wirklich verstehen, dass wir mit sehr gefährlichen Technologien spielen. Wir müssen diese Technologien wirklich tiefgreifend verstehen und sie mathematisch begreifen, und wir müssen auch verstehen, wie sie Entscheidungen treffen. Wir sollten wirklich zu den Grundlagen und der Ära zurückkehren, als KI ein multidisziplinäres Gebiet der Wissenschaft war... um zu lernen, wie diese Modelle lernen."
Kavicky betonte, dass die KI-Branche offener sein und mehr zusammenarbeiten müsse, um diese Fortschritte sicher zu erreichen.
"Die Zukunft ist absolut fantastisch, aber es liegt jetzt an uns, wie wir sie gestalten....und die Vision von Sam Altman oder anderen wie ihm... Ich glaube nicht, dass diese Vision der richtige Weg ist. Wir sollten zumindest eine Weile innehalten, die Realität akzeptieren, dass wir, die Menschen, in den kommenden Jahren nicht mehr die klügsten Tiere oder das klügste Wesen auf diesem Planeten sein werden... und uns wirklich fragen, was das bedeutet... für die gesamte Menschheit und diese Welt, die wir geschaffen haben.
Manche sagen, wir stünden am Anfang vom Ende der Menschheit... Das glaube ich nicht. Wir stehen am Anfang des Anfangs. Was vor uns liegt, ist der ultimative Test für unsere eigene Intelligenz. Die Fähigkeit, sich anzupassen, ist eine der Definitionen von Intelligenz.
Und vergessen Sie nicht, dass es immer hieß "anpassen oder sterben". Mit anderen Worten... irgendwann werden wir wahrscheinlich mit der Technologie, die wir jetzt erschaffen, verschmelzen müssen, um wettbewerbsfähig zu bleiben (stellen Sie sich nur kurz die Welt vor, in der die von uns geschaffene, auf unseren Daten basierende KI in allem besser ist... und dieser Punkt in der Geschichte der Menschheit kommt schneller, als Sie erwarten).
Die Schnittstelle zwischen Mensch und Maschine (oder KI, wenn Sie so wollen) oder auch die Fähigkeit, unser eigenes Bewusstsein auf Maschinen zu speichern und zwischen Maschinen zu wechseln, z. B. in der Cloud, funktioniert noch nicht, aber auch diese Technologien sind im Kommen. Was würden Sie tun und wie würden Sie sich entscheiden (wenn Sie die Möglichkeit hätten, "ewig zu leben" oder mit KI zu verschmelzen)?
Ich habe hier keine Antwort für Sie... Ich weiß nur, was ich tun würde... Ich werde der Erste in der Schlange sein, wenn das funktioniert, und ich würde gerne die Chance ergreifen, die derzeitigen Grenzen der Menschheit zu überwinden. Wir sind und bleiben Menschen. Es liegt einfach in unserer Natur und war schon immer so, dass wir Grenzen überschreiten und uns neu erfinden."
Weitere Informationen über Kavickys Arbeit im Bereich KI und Datenwissenschaft finden Sie unter AIslovakIA und das GapData-Institut.
