Индустрия искусственного интеллекта имеет проблемную историю эксплуатации труда, о чем говорят рабочие в Венесуэле, Кении и других частях мира с крупными рынками маркировки данных и обучения искусственному интеллекту.
Крупные модели искусственного интеллекта, такие как ChatGPT и семейство моделей GPT, требуют огромного количества данных, включая текстовые данные, модерируемые и маркируемые людьми.
Цель состоит в том, чтобы пометить текст, чтобы проинструктировать модели о различных типах контента, особенно о вредном или незаконном. Это поможет разработать фильтры и ограждения.
В предыдущих случаях в Кении работники компании Sama, занимающейся предоставлением услуг по обработке данных в рамках проекта для OpenAI, подвергались воздействию контента, содержащего темы сексуального насилия, вызывающего тревогу.
Несколько работников утверждали, что в результате у них начались проблемы с психическим здоровьем, и в итоге кульминацией которого являются петиция и судебный иск.
Подобное наблюдается и в индустрии модерации контента, где работники отвечают за анализ потенциально незаконного контента на платформах социальных сетей.
Согласно новому отчету WIREDЭта работа распространяется на молодых людей, часто из бедных слоев населения, которых привлекают онлайн-платформы, обещающие гибкий график работы и более высокую зарплату по сравнению с местными стандартами. Это достигается ценой воздействия вредного контента.
Хассан, псевдоним 18-летнего подростка из Пакистана, - один из таких людей, который стал низкооплачиваемым работником в глобальной цепочке поставок ИИ, маркируя данные для обучения алгоритмов некоторых крупнейших мировых ИИ-компаний.
Этими задачами часто занимаются гиг-работники на краудсорсинговых платформах, таких как Toloka и Amazon Mechanical Turk. Хассан начал свою онлайн-карьеру на Toloka. Он использовал данные своего родственника, чтобы обойти возрастные ограничения - обычная практика среди несовершеннолетних, ищущих подобную работу.
Расследование WIRED выявило множество случаев, когда несовершеннолетние работники в Пакистане и Кении под надуманным предлогом присоединялись к таким платформам, как Toloka и Appen.
Темная сторона маркировки данных
Хотя работа по маркировке данных может показаться безобидной, иногда приходится просеивать опасный контент.
Хассан поделился записями с экрана, где он сталкивался с откровенными выражениями и сексуально наводящими изображениями. Он вспоминает, что имел дело с глубоко тревожным контентом, включая сексуализированные изображения несовершеннолетних и описания насильственных действий, которые продолжают влиять на его психическое здоровье.
Возможность зарабатывать больше, чем минимальная зарплата в стране, является сильным стимулом для этих молодых людей.
Для многих гиг-работа становится средством достижения цели, например, чтобы оплатить путешествие или поддержать семью. Однако иногда работники вынуждены проводить долгие часы за мизерную оплату, рискуя получить приостановку аккаунта или запрет на работу за незначительные отклонения в работе.
Для Хасана эта работа остается единственным источником дохода, несмотря на то что он поступил на бакалавриат. Он отмечает, что зарплата значительно снизилась, поскольку все больше работников присоединяются к этим платформам, что позволяет ему называть ситуацию "цифровым рабством".
Ситуация здесь в точности повторяет другие отчеты из Венесуэлы и Кении. В Венесуэле к работе по маркировке данных привлекались целые семьи, включая детей в возрасте 13 лет.
В сочетании с централизованным использованием ИИ в преимущественно более обеспеченных обществах это привело к критике технология как "колониальная" по своей жуткой схожести с трудовой систематикой колониальной эпохи - форма "цифрового рабства".
Это подчеркивает необходимость более строгих процессов проверки возраста на этих платформах и поднимает вопросы об этичности поиска рабочей силы в технологической индустрии.
Подобные случаи были и в других отраслях, например, когда лица моложе 18 лет проходили проверку возраста, чтобы подбирать работу для платформ доставки, таких как Deliveroo.
По мере развития искусственного интеллекта все большее значение приобретает обеспечение соблюдения этических норм в его основополагающих трудовых практиках.
