По мере распространения алгоритмических систем и систем машинного обучения в государственном и общественном секторах, возможно, мы движемся к форме управления с помощью алгоритмов - или "алгократии"?
Алгократия - форма управления на основе алгоритмов, родственная технократии и киберократии, - систематически применяет ИИ, блокчейн и алгоритмы к различным аспектам права и общества.
Сам термин "алгократия" появился в научном дискурсе около 2013 года, но примеры алгоритмического управления относятся к 60-70-м годам прошлого века.
Хотя алгоритмическая обработка и машинное обучение или ИИ - это не одно и то же, они представляют собой непрерывный ряд технологий.
Основная тема алгоритмического управления - отказ от человеческого контроля в пользу компьютерных систем принятия решений - прошла путь от более простых математических симуляторов до современных продвинутых самообучающихся моделей.
Стоит ли приветствовать или опасаться этого?
Истоки альгократии
Алгоритмическое управление родилось в эпоху стремительной оцифровки - в 1960-е годы.
Вот краткая хронология того, как алгоритмическое и интегрированное с ИИ принятие решений проявлялось в государственных и правительственных проектах:
- 1962: Александр Харкевич предлагает создать в Москве компьютерную сеть для алгоритмического управления.
- 1971-1973: Проект "Киберсин" в Чили пытается управлять национальной экономикой.
- 1970s: Разработка систем раннего юридического обоснования и интерпретации налогового законодательства, таких как проект LEGOL в Великобритании и TAXMAN в США.
- 1993: Публикация книги "К новому социализму", в которой рассматривается потенциал демократической плановой экономики, построенной на основе современных компьютерных технологий.
- 2000s: Алгоритмы начинают использоваться для анализа видеозаписей с камер наблюдения.
- 2006: А. Анеш представляет концепцию алгократии, обсуждая влияние информационных технологий на принятие государственных решений.
- 2013: Тим О'Рейли ввел термин "алгоритмическое регулирование", выступая за использование больших данных и алгоритмов в правительстве.
- 2017: Министерство юстиции Украины проводит экспериментальные государственные аукционы с использованием блокчейна.
- Сегодня: Существует множество примеров применения систем машинного обучения в государственном и общественном секторах, некоторые из которых уже доказали, что они принимают высокоуровневые, судьбоносные решения при минимальном контроле со стороны человека.
Одним из самых увлекательных проектов является Киберсин, в Чили, который длился с 1971 по 1973 год. Несмотря на свою короткую жизнь, проект до сих пор служит примером того, как общество - и люди - могут успешно моделироваться компьютерными системами.
Механика, лежащая в основе этого процесса, захватывает, предвещая поддерживаемое ЦРУ падение Сальвадора Альенде и переход Чили к разрушительной эпохе Пиночета.
В основе проекта "Киберсин" лежали четыре основных компонента:
- Экономический симулятор: Этот модуль был разработан для моделирования чилийской экономики, позволяя государственным служащим моделировать результаты различных экономических решений.
- Программное обеспечение для заводской производительности: Специальное программное обеспечение было разработано для мониторинга и оценки работы завода с упором на такие ключевые показатели, как уровень производства и поставки сырья.
- Операционная комната (Opsroom): Это был физический центр Киберсина, где собирались, обрабатывались и отображались экономические данные. Оперативный зал позволял лицам, принимающим решения, быстро усваивать сложную информацию и делать обоснованный выбор.
- Национальная сеть телексных аппаратов: Они были соединены с центральным компьютером и образовали коммуникационную сеть (получившую название "Кибернет"), охватывающую все государственные предприятия. Эта сеть позволяла передавать экономические данные центральному правительству в режиме реального времени.
Проект "Киберсин" продемонстрировал свой потенциал во время общенациональной забастовки дальнобойщиков в 1972 году, когда правительство могло полагаться на данные в режиме реального времени, чтобы смягчить последствия забастовки. Телексная сеть сыграла решающую роль в поддержании связи и координации распределения ресурсов в условиях кризиса.
Однако после военного переворота 11 сентября 1973 года проект внезапно завершился. Оперативный отдел и более широкая система были демонтированы, а "Киберсин" остался незавершенным видением технологически продвинутой и потенциально социально ответственной системы управления экономикой. Политика "Киберсина" вызывает много споров, при этом он является примером инноваций при социализме, за что его и почитают.
Существует еще несколько ранних примеров альгократии, в том числе проекты LEGOL и TAXMAN в 1970-х годах, положившие начало автоматизации процессов, основанных на правилах, в налоговых органах. Последующие десятилетия стали свидетелями развития этих технологий, а в 2000-х годах на первый план вышли приложения для видеонаблюдения.
В 2006 году А. Анеш в своей книге "Виртуальная миграцияВ книге "Альгократия" представлена концепция альгократии, исследующая, как информационные технологии могут ограничивать участие человека в принятии государственных решений, отличая ее от бюрократических и рыночных систем.
В 2013 году Тим О'Рейли, основатель и генеральный директор O'Reilly Media Inc., ввел термин "алгоритмическое регулирование", сформулировав видение управления, которое использует возможности больших данных и алгоритмов для достижения определенных правовых результатов, призывая к изменению парадигмы в сторону более эффективного и подотчетного управления.
Совсем недавно, в 2017 году, Министерство юстиции Украины провело экспериментальную Государственные аукционы на основе блокчейна (он же тендер в государственном секторе), демонстрируя потенциал этих технологий для повышения прозрачности и борьбы с коррупцией в государственных сделках.
И это подводит нас к эре генеративного ИИ и сегодняшним передовым пограничным моделям.
Эксперименты государственного сектора с искусственным интеллектом и алгоритмами
За последние несколько лет государственный сектор и правительственные учреждения провели множество экспериментов с алгоритмическим принятием решений, искусственным интеллектом и машинным обучением.
Комплексное исследование проведенный Стэнфордским университетом В докладе говорится о значительном внедрении инструментов искусственного интеллекта и ML в федеральном секторе США: к 2020 году 45% учреждений будут экспериментировать с этими технологиями.
Palantir Technologies является крупным коммерческим поставщиком в этой области и вносит свой вклад в остаточные приложения.
Если рассматривать конкретные ведомства, то лидирует Управление программ в области юстиции с 12 вариантами использования, за ним следуют Комиссия по ценным бумагам и биржам с 10 вариантами и НАСА с девятью. Среди других известных агентств - FDA, USGS, USPS, SSA, USPTO, BLS и US Customs and Border Protection.
Широко распространены свидетельства предвзятости некоторых из этих систем. Алгоритмы здравоохранения в США были признаны менее склонны направлять чернокожих пациентов для дополнительного ухода, а также инструменты предиктивной полиции, такие как КОМПАС были обвинены в расовой предвзятости при прогнозировании риска рецидива (рецидивизма) и вынесении приговора.
Недавно Расследование Guardian Исследование государственного сектора Великобритании показало, что алгоритмы, используемые в таких областях, как социальное обеспечение, иммиграция и уголовное правосудие, были замешаны в случаях злоупотребления и дискриминации.
В частности, Министерство труда и пенсий (DWP) подверглось критике за алгоритм, который якобы приводил к неправомерным приостановкам выплаты пособий, а инструмент распознавания лиц, разработанный столичной полицией, показал более высокий процент ошибок для черных лиц.
Правосудие с помощью искусственного интеллекта и алгоритмов
Еще одна ветвь алгократии - алгоритмическое правосудие или правоприменение под влиянием ИИ.
В дополнение к американской системе COMPAS, в Австралии Программное обеспечение "Split Up" помогает судьям в определении раздела имущества во время бракоразводных процессов, а Китай стал пионером в создании интернет-судов, в которых виртуальный судья с искусственным интеллектом помогает в решении основных задач судебного процесса.
Опыт голландского правительства в области Индикация системного риска (SyRI) Алгоритм, предназначенный для выявления мошенничества в сфере социального обеспечения, столкнулся с юридическими проблемами из-за его потенциального дискриминационного эффекта и отсутствия прозрачности, что привело к принятию знакового судебного решения, запрещающего его использование.
Принятие Бразилией технологии распознавания лиц в Сан-Паулу через Проект Smart Sampa и другие формы предиктивного полицейского контроля, включая несколько программ в США, указывают на потенциал технологии влиять на управление основными свободами людей.
Программное обеспечение Gotham компании Palantir используется Департаментом полиции Нового Орлеана с 2012 года для предиктивной работы полиции, а более новые итерации были признаны неудачнымиВ результате чего маргинальные слои населения страдают от предвзятости, а полиция тратит свои ресурсы впустую.
Кроме того, юридические боты все чаще берут на себя задачи, традиционно выполняемые параюристами, а такие технологии, как ROSS Intelligence, помогают американским юридическим фирмам в проведении юридических исследований.
Недавно появились сообщения о том, что юристы используют генеративный ИИ, в том числе ChatGPT, для помощи в изучении дел. громкий инцидент где адвокат подавал судебные иски с помощью сфабрикованных искусственным интеллектом дел.
Политики с искусственным интеллектом участвуют в выборах
Полная замена политиков искусственным интеллектом стала предметом многочисленных спекуляций, в том числе в недавнем подкасте Джо Рогана и генерального директора OpenAI Сэма Альтмана.
Джо Роган поднимает эту тему, утверждая, что ИИ может оказаться более объективным, способным удовлетворять конкретные потребности людей в отрыве от финансовых и политических влияний.
Альтман согласен с тем, что в основе принятия обычных государственных решений часто лежат коррупционные мотивы, но ему не нравится слишком доверять ИИ важные общественные решения.
В 2018 году Мичихито Мацуда баллотировался на пост мэра токийского района Тама как человеческий прокси для программы искусственного интеллектаВ ней был продемонстрирован новый подход к выдвижению политических кандидатур. Несмотря на отсутствие победы, эта инициатива продемонстрировала потенциал ИИ в политике.
В 2018 году Сезар Идальго представил концепцию дополненной демократии, предлагая принимать законы с помощью цифровых двойников людей. Идальго сказал."Демократия может быть обновлена или улучшена с помощью технологий и новых идей, я в этом абсолютно убежден".
В 2022 году "Лидер ЛарсЧатбот был выдвинут на парламентские выборы в Дании, представляя партию Synthetic.
В отличие от своих предшественников, Лидер Ларс возглавлял политическую партию и участвовал в критических политических дискуссиях, не претендуя на объективность, что добавляет новое измерение в концепцию виртуальных политиков.
Преимущества и критика алгократии
Преимущества Algocracy обычно относятся к категории "эффективность". Использование искусственного интеллекта и алгоритмов для принятия сложных решений быстрее, чем полагаться на людей.
Это особенно полезно в сложных сферах государственного сектора, где и так много задержек.
Таким образом, соблазн поэкспериментировать с принятием решений с помощью искусственного интеллекта очень велик, и именно поэтому существует так много ярких примеров в государственном секторе в таких ограниченных в ресурсах департаментах, как право, юстиция, экономика и социальное обеспечение.
Завоевать доверие к этим инструментам непросто, поскольку правительства не хотят раскрывать свои собственные модели, так как это может привести к тому, что конфиденциальные данные окажутся открытыми для угроз. Поэтому многие из этих проектов держатся в строжайшем секрете, что повышает их риски.
Историк и автор таких бестселлеров, как "Sapiens" и "Homo Deus", Юваль Ной Харари, отметил, что продолжающийся конфликт между демократическими и авторитарными режимами можно рассматривать как битву двух систем обработки данных, причем ИИ и алгоритмы могут склонить чашу весов в сторону централизации и контроля.
Харари подчеркивает, что способность ИИ манипулировать языком и генерировать убедительный контент может поставить под угрозу демократию. Беспокойство вызывает не только то, что ИИ производит необъективную или ложную информацию, но и его способность имитировать человеческий разговор и незаметно влиять на общественное мнение.
Далее Харари описывает, как ИИ может создавать эхо-камеры, которые авторитарные режимы могут использовать более эффективно, чем демократические. Авторитарные правительства с их централизованным контролем над данными и меньшей заботой о конфиденциальности или этических ограничениях могут более активно использовать ИИ для наблюдения и манипулирования общественным мнением.
Существуют методы исправления этой ситуации. Например, ИИ-стартап Anthropic посвятил значительные исследования "конституционный искусственный интеллект", и более конкретно: "коллективный конституционный ИИВ ней мнения людей передаются в модель искусственного интеллекта, который "краудсорсит" ценности из общей массы людей.
Эти методы могут стать демократической основой управления ИИ, обеспечивая, чтобы модели руководствовались общественным мнением, а не только мнением их создателей.
Общественное мнение об альгократии
Критически важно, что думает большинство людей об этих применениях ИИ?
Эти голоса в наибольшей степени отражают реальное отношение общества к тому, что им полностью или частично управляют алгоритмические системы или системы искусственного интеллекта. И не стоит забывать, что общество финансирует эти проекты за счет налогов.
Опрос, проведенный в 2019 году компанией Центр управления изменениями Университета IE в Испании показал, что в разных странах Европы уровень поддержки населением возможности ИИ принимать важные национальные решения различен. Наибольшее одобрение продемонстрировали Нидерланды - 43%, а наименьшее - Португалия - 19%.
Исследователи обнаружили, что разочарование в политических лидерах или поставщиках услуг безопасности может увеличить склонность общества к искусственным агентам, которые воспринимаются как более надежные.
Со временем модели ИИ смогут выступать в качестве калибратора социально ответственных действий правительства, получая мнения от общественности и внедряя их в модели ИИ, чтобы свести на нет некоторые из менее надежных проявлений традиционной демократии.
При правильном применении эти методы могут даже прозрачно заставить правительства отчитываться перед демократическими пожеланиями народа.
Однако на сегодняшний день большинство примеров алгократии иллюстрируют государственное, а не демократическое принятие решений.
