Использование искусственного интеллекта в благих целях: возможности и проблемы

6 июня 2024 года

  • На саммите AI For Good Summit обсуждались примеры пользы ИИ для общества
  • Они находятся в хрупком равновесии с возможностью усугубления цифровых различий
  • Для управления рисками и возможностями потребуется глубокое сотрудничество
AI

Глобальный саммит AI for Good 2024 прошел 30-31 мая в Женеве и собрал более 2500 участников, представляющих 145 стран. 

В своем вступительном слове она сказала, Генеральный секретарь Дорин Богдан-Мартин из Международного союза электросвязи (МСЭ), организовавшего мероприятие, задала тон, объяснив необходимость инклюзивности в развитии ИИ. 

Она сказала: "В 2024 году одна треть человечества останется в офлайне, будет исключена из революции ИИ и не будет иметь права голоса. Такой цифровой и технологический разрыв больше недопустим". 

На саммите были продемонстрированы примеры полезных приложений ИИ, способных вывести преимущества технологии на периферию, такие как Bioniksпакистанская инициатива по разработке доступных протезов, и Ультразвуковой искусственный интеллектАмериканская организация, возглавляемая женщинами, занимается улучшением дородового ухода.

AI For Good также изучил, как ИИ может помочь в достижении Целей устойчивого развития ООН (ЦУР), в которых изложены широкие и далеко идущие планы по развитию и модернизации менее развитых стран, а также по борьбе с бедностью, изменением климата и другими экзистенциальными и макроуровневыми проблемами. 

Среди множества приведенных примеров - Мелике Йеткен Крилла, руководитель отдела международных организаций компании Google, обсудили несколько проектов где данные Google и искусственный интеллект используются для отслеживания прогресса в достижении ЦУР, составления карт по всему миру и сотрудничества со Всемирной метеорологической организацией (ВМО) для создания центра наводнений для систем раннего предупреждения.

Все они представляют собой огромное количество проектов, которые наглядно демонстрируют, как искусственный интеллект может Ускоренная диагностика заболеваний, помощь разрабатывать новые лекарства, обеспечивать мобильность тем, кто потерял его в результате травмы, и многое другое. 

ИИ также помогает природоохранникам защищать окружающую среду, от Amazon тропический лес на Пухляки у британских берегов и лосось в Северные водные пути

По мнению участников саммита, потенциал искусственного интеллекта для достижения благих целей действительно велик.

Но, как всегда, есть и другая половина истории. 

ИИ толкает и тянет

Вместо одностороннего движения искусственный интеллект соблазняет как разрушить, так и ускорить цифровое неравенство, а это значит, что его преимущества и те, кто их получает, являются несправедливыми.

Есть убедительные доказательства того, что ИИ усиливает существующее разделение между более и менее технологически развитыми странами. Исследования Специалисты Массачусетского технологического института и организации Data Provenance Initiative обнаружили, что большинство наборов данных, используемых для обучения моделей искусственного интеллекта, в значительной степени ориентированы на Запад.

Языки и культуры Азии, Африки и Южной Америки по-прежнему недостаточно представлены в технологиях ИИ, в результате чего модели не могут точно отразить или обслужить эти регионы.

Кроме того, технологии ИИ дороги и сложны в разработке, а контроль над ними, несомненно, принадлежит нескольким избранным компаниям и институтам. 

Проекты ИИ с открытым исходным кодом дают компаниям по всему миру возможность разрабатывать недорогой, суверенный ИИ, но при этом требуют вычислительных мощностей и технических талантов, которые по-прежнему востребованы во всем мире. 

Предвзятость моделей искусственного интеллекта

Еще одно противоречие в перетягивании каната преимуществ и недостатков ИИ - предвзятость. Когда модели ИИ обучаются на предвзятых данных, они по своей природе перенимают и усиливают эти предвзятости. 

Это может привести к серьезным последствиям, особенно в здравоохранении, образовании и правоохранительных органах. 

Например, системы искусственного интеллекта в здравоохранении, обученные преимущественно на западных данных, могут неверно интерпретировать симптомы или поведение незападного населения, что приведет к неправильному диагнозу и неэффективному лечению.

Исследователи из ведущих технологических компаний, таких как Anthropic, Google и DeepMind, признали эти ограничения и активно ищут решения, такие как Anthropic"Конституционный искусственный интеллект". 

Как объяснил Джек Кларк, руководитель отдела политики Anthropic: "Мы пытаемся найти способ разработать конституцию, которая была бы разработана целым рядом третьих лиц, а не людьми, которые случайно работают в лаборатории в Сан-Франциско". 

Благородное и правильное решение, но как создать эффективную глобальную демократию для сбора мнений от третьих лиц?

Трудовая эксплуатация

Еще один риск использования ИИ в благих целях - случаи трудовой эксплуатации маркировщиков и аннотаторов данных, задача которых - просеивать тысячи данных и отмечать различные характеристики для обучения моделей ИИ.

Психологическая нагрузка на этих работников огромна, особенно когда им поручают маркировать тревожный или откровенный контент. Эта "призрачная работа" крайне важна для функционирования систем ИИ, но часто игнорируется в дискуссиях об этике и устойчивости ИИ.

Например, бывшие модераторы контента в Найроби, Кения, подали петиции против Самыамериканской компании, предоставляющей услуги по аннотированию данных и работающей по контракту с OpenAI, заявив об "условиях эксплуатации" и серьезных психических расстройствах, вызванных их работой.

На эти вызовы были даны ответы, показывающие, как с помощью коллективных действий можно устранить угрозу ИИ для уязвимых групп населения. 

Например, такие проекты, как Nanjala Проект "Цифровые права на суахили" Ньябола Цель - противостоять цифровой гегемонии, переводя ключевые термины цифровых прав на суахили, чтобы улучшить понимание среди неанглоязычных сообществ в Восточной Африке. 

Аналогично, Te Hiku Media, некоммерческая организация маориВ сотрудничестве с исследователями они обучили модель распознавания речи, адаптированную для языка маори, продемонстрировав тем самым потенциал низовых усилий, направленных на то, чтобы ИИ приносил пользу всем.

Подобные проекты могут оказаться эффективным средством демократизации ИИ, но это сложная задача, которая потребует времени и инвестиций для эффективного внедрения в глобальном масштабе.

Балансировка

В ближайшие годы будет непросто найти баланс между преимуществами и недостатками ИИ. 

Вместо того чтобы представлять собой новую парадигму международного развития, разговоры об инклюзивности ИИ, пожалуй, лучше воспринимать как продолжение десятилетий дискуссий о влиянии технологий на глобальные общества.

Однако уникальность заключается в том, что воздействие ИИ носит как универсальный, так и локальный характер.

Крупномасштабные инструменты ИИ, такие как ChatGPT, могут обеспечить "одеяло" энциклопедических знаний и навыков, доступ к которым получат миллиарды людей по всему миру.

Тем временем менее масштабные проекты, подобные описанным выше, показывают, что в сочетании с человеческой изобретательностью мы можем создать технологию ИИ, которая будет служить местным сообществам. 

Основная надежда на то, что со временем ИИ станет одновременно дешевле и проще в доступе, что позволит сообществам использовать его по своему усмотрению и на своих условиях, с соблюдением своих прав. Конечно, это может включать и полный отказ от ИИ. 

ИИ - как генеративные модели, созданные технологическими гигантами, так и более традиционные модели, созданные университетами и исследователями, - безусловно, может принести пользу обществу при правильном подходе.

Саммит AI For Good воплотил в себе эту надежду и скептицизм. Заинтересованные стороны не слепы к проблемам, но это не значит, что у них еще есть ответы. 

Присоединяйтесь к будущему


ПОДПИСАТЬСЯ СЕГОДНЯ

Четко, лаконично, всесторонне. Получите представление о развитии искусственного интеллекта с помощью DailyAI

Сэм Джинс

Сэм - писатель в области науки и техники, работавший в различных AI-стартапах. Когда он не пишет, его можно найти за чтением медицинских журналов или копанием в коробках с виниловыми пластинками.

×

ЭКСКЛЮЗИВНЫЙ БЕСПЛАТНЫЙ PDF
Будьте впереди с DailyAI

Подпишитесь на нашу еженедельную рассылку и получите эксклюзивный доступ к последней электронной книге DailyAI: "Освоение инструментов искусственного интеллекта: Ваше руководство по повышению производительности в 2024 году".

* Подписываясь на нашу рассылку, вы принимаете наши Политика конфиденциальности и наш Условия и положения