Радован Кавицки - евангелист ИИ и Data Science в AIslovakIA, национальной платформе для развития ИИ в Словакии, и президент Института GapData. Некоммерческая платформа, поддерживаемая правительством Словакии, призвана объединить всех участников индустрии ИИ в Словакии и использовать весь потенциал величайших умов Словакии для содействия развитию ИИ в стране.
Радован закончил обучение по специальности "Финансы" и начинал как экономист, но в разговоре с ним становится ясно, что его настоящая страсть - это наука о данных и искусственный интеллект, особенно в том, что касается его родной страны - Словакии.
В своей презентации (доступной на сайте GitHub или непосредственно @ https://tinyurl.com/slides-globalAIshow) на выставке Global AI Show в Дубае, Радован представил несколько интересных прогнозов о том, когда мы можем ожидать появления сильного ИИ, ИИ уровня человека, а затем и AGI, или, другими словами, "святого грааля" всех исследований в области ИИ.
Он подчеркнул растущую необходимость внедрения инструментов Explainable AI, открытого сотрудничества и обучения машин нашей системе ценностей и верховенству закона, чтобы AGI стал таким, каким мы надеемся его сделать (по крайней мере, благожелательным по отношению к человечеству).
Юджин ван дер Ватт из DailyAI побеседовал с Радованом Кавицки о его взглядах на текущие и будущие разработки в области ИИ. Вот несколько интересных моментов из интервью.
В: Радован, одно время вы были советником премьер-министра словацкого правительства по вопросам ИИ. Не могли бы вы рассказать нам об этом подробнее?
Радован Кавицки: "Да, я работал на Ивету Радичову во время продемократического, прореформенного правительства в 2010 году, пока правительство, к сожалению, не пало в 2011 году (кстати, в мой день рождения). Я занимался внедрением различных алгоритмов и ИИ для различных министерств, включая Министерство юстиции, работая вместе с моим коллегой из MESA 10, Мартином Валентовичем. Мы использовали ИИ и передовые инструменты науки о данных в таких областях, как правосудие, например, расчет векторов расстояний и оптимизация сети системы правосудия, а также повышение доступности правосудия в Словакии".
В: Правительства разных стран мира применяют различные подходы к регулированию ИИ. Что вы думаете о подходе Словакии? Какой путь будет выбран для регулирования?
Радован Кавицки: "Мы в рамках AIslovakIA участвуем в процессе создания и регулярного обновления стратегии внедрения ИИ в государственном секторе, а также сотрудничаем в Европе. Словакия является членом не только ЕС или НАТО, но и ОЭСР, которая имеет свой собственный подход к прозрачности и регулированию с помощью Принципов ОЭСР по ИИ. Исходя из этого, мы формулируем общую стратегию в Европе".
Радован рассказал о подходе ЕС к регулированию ИИ с помощью Закона об ИИ, в котором основное внимание уделяется оценке рисков внедрения ИИ, а не регулированию конкретных технологий. Он считает, что такой подход лучше, чем в других странах и регионах мира, но ему не хватает концентрации на регулировании самого ИИ.
Хотя Кавики оптимистично оценивает преимущества ИИ, он не игнорирует потенциальные риски AGI, но подчеркивает важность согласования ИИ с человеческими ценностями.
В: Вы упомянули, что OpenAI на самом деле не является открытой. Что вы думаете по этому поводу?
Радован Кавицки: "Я твердо верю в открытый исходный код, открытый и академический подход к достижению такого рода вех, ведущих к сильному ИИ, HLAI, AGI или, возможно, даже к суперинтеллекту в ближайшие годы. OpenAI в настоящее время открыта только по названию... на самом деле это одна из самых закрытых и секретных организаций по всему миру, которая на самом деле работает над достижением AGI (Chat GPT или GPT 4 - это всего лишь полупродукт, ведущий к сильному AI), и мы должны подготовиться к изменениям, которые грядут с AGI, потому что мы создаем нечто, что преодолеет человеческий интеллект. И это не шутка. Мы очень близки к этому, и у нас есть всего лишь десятилетие, а может, и меньше/несколько лет, чтобы подготовиться. Если OpenAI достигнет этого, я буду очень обеспокоен... потому что сейчас мы не можем даже проверить академически их исследования или узнать, на основе каких данных они создали GPT 4. Это не то, что следует принимать".
Говоря о Софии, человекоподобном роботе с искусственным интеллектом, который был его содокладчиком на выставке Global AI Show, Кавицки сказал, "Его видение объединения таких технологий, как блокчейн, LLM, обработка естественного языка и других технологий с децентрализованным подходом, конечной целью которого является максимальная польза для человечества и мирового сообщества, полностью отличается от видения Сэма Альтмана, конечной целью которого является максимальная прибыль в интересах конкретной компании, в данном случае Microsoft. И я твердо верю в открытость и подход Бена, а не Сэма".
Кавицки подчеркнул необходимость подхода с открытым исходным кодом для устранения потенциальных рисков.
Вопрос: Существуют разные мнения по поводу AGI. Ян ЛеКун считает, что до этого еще далеко и о безопасности можно не беспокоиться, а Элон Маск уверен, что это неизбежно и представляет собой экзистенциальный риск. А что думаете вы?
Радован Кавицки: "Я думаю, что нам стоит беспокоиться только в том случае, если мы сделаем это плохо, не открыто, не прозрачно, и если мы реализуем это плохо, это действительно может стать последним творением человечества". Опять же, без шуток, это действительно может произойти, и вероятность этого ненулевая. Чтобы избежать этого, мы должны научить нашей системе ценностей эти машины, технологии и модели, которые мы создаем и называем ИИ... и даже если мы не сможем научить их нашей системе ценностей или законам... мы должны хотя бы попытаться научить их сочувствию и уважению к нашим законам и ко всему человеческому".
В: Словакия произвела на свет несколько выдающихся имен в области ИИ, например Андрея Карпати. Однако существует и проблема утечки мозгов. Есть ли в Словакии возможности для тех, кто хочет работать над проектами в области ИИ?
Радован Кавицки: "Возможности есть, и индустрия ИИ быстро развивается, но непосредственно в Словакии у нас еще не было ИИ-единорога. Конечно, у нас есть таланты (к счастью, они распределены по всему миру), но мы не можем удержать их из-за лучших условий в других странах, ограничений в нашем законодательстве, таких как отсутствие возможности запатентовать алгоритм, а также из-за глобального характера индустрии ИИ".
Кавицки объяснил, что правительству и промышленности Словакии необходимо изменить свой менталитет, чтобы удержать талантливых специалистов в области ИИ и получить выгоду, а не страдать от неизбежной автоматизации ИИ, которая надвигается, и его регион/ЦВЕ/Центральная и Восточная Европа пострадают больше всего (если верить прогнозам).
Он выразил скептицизм по поводу блокчейна, но отметил опыт Бена Гертцеля и Марека Розы из GoodAI, которые работают над тем, чтобы как можно скорее достичь AGI и интегрировать ИИ, а также технологии, подобные блокчейну, в свое стремление к AGI.
В: Видите ли вы, что блокчейн, DeFi и подобные им вещи в будущем станут более значимыми для ИИ?
Радован Кавицки: "Да, но если рассматривать это в перспективе... я вижу blockchain как технически просто очень медленную базу данных. Для меня блокчейн, возможно, не является правильным путем вперед... но, может быть, я ошибаюсь... кто знает... в любом случае другая технология, похожая на блокчейн, может стать недостающим звеном для... решения проблемы хранения данных, чтобы достичь сильного ИИ и, надеюсь, AGI... Я думаю, что грядет что-то еще лучшее, чем блокчейн. Очень скоро".
Кавицки в восторге от разработок в области искусственных нейронных сетей, но он также говорит, что они очень сильно отличаются от нашего человеческого мозга, а в некоторых отношениях даже лучше.
"Я не уверен, что все мы в полной мере осознаем, что играем с очень опасными технологиями. Мы действительно должны глубоко понимать эти технологии, понимать их математически и глубоко понимать, как они принимают решения. Мы должны вернуться к основам и к эпохе, когда ИИ был междисциплинарной областью науки... чтобы понять, как эти модели обучаются".
Кавицки подчеркнул, что для безопасного достижения этих успехов индустрия ИИ должна быть более открытой и сотрудничать.
"Будущее совершенно потрясающее, но только от нас зависит, как мы его построим.... и видение Сэма Альтмана или других подобных ему... Я не думаю, что это видение - правильный путь вперед. Мы должны хотя бы на время остановиться, принять реальность того, что в ближайшие годы мы, люди, перестанем быть самыми умными животными или самыми умными существами на этой планете... и действительно спросить себя, что это значит... для всего человечества и этого мира, который мы создали".
Некоторые говорят, что мы находимся в начале конца человечества... Я так не думаю. Мы находимся в начале начала. То, что ждет нас впереди, - это высшая проверка нашего интеллекта. Способность адаптироваться - одно из определений интеллекта.
И не забывайте, что всегда было "адаптируйся или умри". Другими словами... в какой-то момент нам, вероятно, придется слиться с технологиями, которые мы сейчас создаем, чтобы оставаться конкурентоспособными (только на секунду представьте себе мир, где ИИ, наше творение, основанное на наших данных, лучше во всем... и этот момент в истории человечества наступит раньше, чем вы ожидаете).
Интерфейс "человек-машина" (или ИИ, если хотите), а также возможность хранить наше собственное сознание в машинах и переключаться между ними, например, в облаке, пока не работают, но эти технологии тоже на подходе. Что бы вы сделали и как бы вы решили (если бы у вас была возможность "жить вечно" или слиться с ИИ)?
У меня нет для вас ответа... Я знаю только, что бы я сделал... Я буду первым в очереди, если это будет работать, и я с радостью воспользуюсь шансом преодолеть нынешние ограничения человечества. Мы были и остаемся людьми. Это просто в нашей природе, и так было всегда - расширять границы и изобретать себя заново".
Вы можете узнать больше о работе Кавики в области искусственного интеллекта и науки о данных на сайте AIslovakIA и Института GapData.
