Alors que les systèmes algorithmiques et d'apprentissage automatique commencent à proliférer dans les secteurs gouvernementaux et publics, pourrions-nous nous diriger vers une forme de gouvernance par algorithme - ou une "algocratie" ?
L'algogratie - une forme de gouvernance fondée sur les algorithmes liée à la technocratie et à la cyberocratie - applique systématiquement l'IA, la blockchain et les algorithmes à divers aspects du droit et de la société.
Le terme "algocratie" est apparu dans le discours académique vers 2013, mais les exemples de gouvernance algorithmique remontent aux années 60 et 70.
Bien que le traitement algorithmique et l'apprentissage automatique ou l'IA ne soient pas identiques, ils représentent un continuum de technologies.
Les thèmes centraux de la gouvernance algorithmique - l'abandon du contrôle humain au profit de systèmes décisionnels informatisés - sont passés des simulations mathématiques les plus simples aux modèles d'auto-apprentissage les plus avancés d'aujourd'hui.
Faut-il s'en réjouir ou s'en méfier ?
Origine de l'algocratie
La gouvernance algorithmique est née à une époque de numérisation rapide - les années 1960.
Voici une brève chronologie de l'intégration des algorithmes et de l'IA dans les projets publics et gouvernementaux :
- 1962: Alexander Kharkevich propose un réseau informatique pour la gouvernance algorithmique à Moscou.
- 1971-1973: Le projet Cybersyn au Chili tente de gérer l'économie nationale.
- 1970s: Développement des premiers systèmes de raisonnement juridique et d'interprétation du droit fiscal, comme le projet LEGOL au Royaume-Uni et le projet TAXMAN aux États-Unis.
- 1993: Publication de "Towards a New Socialism", qui examine le potentiel d'une économie planifiée démocratiquement et fondée sur la technologie informatique moderne.
- 2000s: Les algorithmes commencent à être utilisés pour l'analyse des vidéos de surveillance.
- 2006: A. Aneesh présente le concept d'algocratie, en discutant de l'impact des technologies de l'information sur la prise de décision publique.
- 2013: Tim O'Reilly a inventé le terme de "réglementation algorithmique", plaidant pour l'utilisation des big data et des algorithmes au sein du gouvernement.
- 2017: Le ministère ukrainien de la Justice procède à des ventes aux enchères gouvernementales expérimentales en utilisant la blockchain.
- Aujourd'hui: Il existe de nombreux exemples de systèmes d'apprentissage automatique déployés dans les secteurs gouvernementaux et publics, dont certains ont prouvé qu'ils prenaient des décisions de haut niveau qui changeaient la vie avec une supervision humaine minimale.
L'un des projets les plus fascinants est Cybersynau Chili, qui s'est déroulé de 1971 à 1973. Malgré sa courte durée de vie, le projet reste un exemple de la manière dont la société - et les personnes - peuvent être modélisées avec succès par des systèmes informatiques.
Les mécanismes sous-jacents sont fascinants, préfigurés par la chute de Salvador Allende, soutenue par la CIA, et la progression du Chili vers l'ère dévastatrice de Pinochet.
Au cœur du projet Cybersyn se trouvaient quatre éléments principaux :
- Simulateur économique: Ce module a été conçu pour modéliser l'économie chilienne, permettant aux fonctionnaires de simuler les résultats de diverses décisions économiques.
- Logiciel pour les performances de l'usine: Un logiciel personnalisé a été développé pour contrôler et évaluer les performances de l'usine, en se concentrant sur des indicateurs clés tels que les niveaux de production et l'approvisionnement en matières premières.
- Salle des opérations (Opsroom): Il s'agit du centre physique de Cybersyn, où les données économiques sont collectées, traitées et affichées. L'Opsroom permettait aux décideurs d'assimiler rapidement des informations complexes et de faire des choix éclairés.
- Réseau national de machines télex: Ils étaient reliés à un ordinateur central et formaient un réseau de communication (appelé "Cybernet") entre les entreprises publiques. Ce réseau facilitait la transmission en temps réel des données économiques au gouvernement central.
Le projet Cybersyn a démontré son potentiel lors d'une grève nationale des camionneurs en 1972, au cours de laquelle le gouvernement a pu s'appuyer sur des données en temps réel pour atténuer l'impact de la grève. Le réseau télex a joué un rôle crucial dans le maintien de la communication et la coordination de la distribution des ressources pendant la crise.
Cependant, le projet s'est arrêté brusquement après le coup d'État militaire du 11 septembre 1973. L'Opsroom et le système plus large ont été démantelés, et Cybersyn est resté une vision inachevée d'un système de gestion économique technologiquement avancé et potentiellement socialement responsable. La politique de Cybersyn fait l'objet de nombreux débats, le système étant considéré comme un exemple d'innovation sous le socialisme, ce qui lui a valu d'être vénéré.
Il existe plusieurs autres exemples précoces d'algocratie, notamment les projets LEGOL et TAXMAN dans les années 1970, qui ont ouvert la voie à l'automatisation des processus fondés sur des règles dans les agences fiscales. Les décennies suivantes ont vu l'évolution de ces technologies, les applications de surveillance devenant prépondérantes dans les années 2000.
En 2006, A. Aneesh, dans son livre "Migration virtuelleL'article "Algocratie" a introduit le concept d'algocratie, explorant la manière dont les technologies de l'information peuvent limiter la participation humaine à la prise de décision publique, en la distinguant des systèmes bureaucratiques et des systèmes fondés sur le marché.
Puis, en 2013, Tim O'Reilly, fondateur et PDG d'O'Reilly Media Inc. a inventé le terme "réglementation algorithmique", articulant une vision de la gouvernance qui exploite la puissance des big data et des algorithmes pour obtenir des résultats juridiques spécifiques, appelant à un changement de paradigme vers une gouvernance plus efficace et plus responsable.
Plus récemment, en 2017, le ministère ukrainien de la justice a mené des expériences de contrôle de l'accès à l'information. enchères gouvernementales basées sur la blockchain (c'est-à-dire les appels d'offres du secteur public), montrant le potentiel de ces technologies pour améliorer la transparence et lutter contre la corruption dans les transactions gouvernementales.
Cela nous amène à l'ère florissante de l'IA générative et aux modèles frontaliers avancés d'aujourd'hui.
Expérimentation de l'IA et des algorithmes dans le secteur public
Le secteur public et les agences gouvernementales ont considérablement expérimenté la prise de décision algorithmique, l'IA et l'apprentissage automatique au cours des dernières années.
Une étude complète menée par l'Université de Stanford a révélé l'adoption significative des outils d'IA et de ML dans le secteur fédéral américain, avec 45% des agences expérimentant ces technologies d'ici 2020.
Palantir Technologies est un fournisseur commercial majeur dans ce domaine, contribuant aux applications résiduelles.
En ce qui concerne les agences spécifiques, l'Office of Justice Programs arrive en tête avec 12 cas d'utilisation, suivi de la Securities and Exchange Commission avec 10 cas et de la NASA avec 9 cas. Les autres agences les plus importantes sont la FDA, l'USGS, l'USPS, la SSA, l'USPTO, le BLS et le service des douanes et de la protection des frontières des États-Unis.
Il existe de nombreuses preuves de partialité dans certains de ces systèmes. Les algorithmes de soins de santé aux États-Unis se sont révélés être moins susceptibles d'adresser des patients noirs pour des soins supplémentaires, et des outils de police prédictive comme le COMPAS ont été accusés de préjugés raciaux dans la prédiction du risque de récidive (récidive) et la détermination de la peine.
Un récent Enquête du Guardian dans le secteur public britannique a révélé que les algorithmes utilisés dans des domaines tels que l'aide sociale, l'immigration et la justice pénale ont été impliqués dans des cas d'abus et de discrimination.
Le ministère du travail et des pensions (DWP) a notamment été critiqué pour un algorithme qui aurait conduit à des suspensions injustifiées de prestations, et l'outil de reconnaissance faciale de la police métropolitaine a révélé des taux d'erreur plus élevés pour les visages noirs.
La justice par l'IA et les algorithmes
Une autre branche de l'algocratie est la justice algorithmique ou influencée par l'IA et l'application de la loi.
Outre le système américain COMPAS, l'Australie a mis en place un système d'information sur la santé. "Logiciel "Split Up La Chine a été la première à mettre en place des tribunaux sur l'internet, avec un juge virtuel doté d'une IA qui l'assiste dans les tâches de base liées aux litiges.
L'expérience du gouvernement néerlandais en matière de Indication du risque du système (SyRI) conçu pour détecter les fraudes aux prestations sociales, a fait l'objet de contestations juridiques en raison de ses effets discriminatoires potentiels et de son manque de transparence, ce qui a conduit à une décision de justice historique contre son utilisation.
L'adoption par le Brésil de la technologie de reconnaissance faciale à São Paulo par le biais de la Projet Smart Sampa et d'autres formes de police prédictive, y compris plusieurs programmes aux États-Unis, montre que la technologie peut influencer la gestion des libertés fondamentales des citoyens.
Le logiciel Gotham de Palantir est utilisé par la police de la Nouvelle-Orléans depuis 2012 pour la police prédictive, et de nouvelles versions ont été développées. ont été déclarés comme étant un échecLa police peut donc être amenée à faire preuve de partialité à l'égard des communautés marginalisées et à gaspiller les ressources de la police.
En outre, les robots juridiques se chargent de plus en plus de tâches traditionnellement confiées à des assistants juridiques, grâce à des technologies telles que ROSS Intelligence, qui aident les cabinets d'avocats américains à effectuer des recherches juridiques.
Des avocats ont récemment fait état de l'utilisation de l'IA générative, y compris ChatGPT, pour aider à la recherche d'affaires - y compris une étude d'impact de l'IA générative sur la santé. incident très médiatisé où un avocat a présenté des réclamations juridiques avec des cas fabriqués par l'IA.
Les politiciens de l'IA se présentent aux élections
Le remplacement complet des politiciens par l'IA a fait l'objet de nombreuses spéculations, notamment dans un récent podcast de Joe Rogan et du PDG d'OpenAI, Sam Altman.
Joe Rogan aborde le sujet en affirmant que l'IA pourrait s'avérer plus objectivement capable de répondre aux besoins spécifiques des personnes, indépendamment des influences financières et politiques.
M. Altman reconnaît que les décisions des gouvernements conventionnels sont souvent fondées sur des motifs corrompus, mais il n'est pas à l'aise avec l'idée de confier à l'IA d'importantes décisions sociétales.
En 2018, Michihito Matsuda s'est présenté à l'élection du maire de la ville de Tama, à Tokyo, en tant que candidat à la mairie. mandataire humain d'un programme d'IACette initiative, qui n'a pas été couronnée de succès, a mis en évidence le potentiel de l'IA en politique. Bien qu'elle n'ait pas gagné, cette initiative a mis en lumière le potentiel de l'IA en politique.
Cesar Hidalgo a introduit le concept de démocratie augmentée en 2018, en proposant de légiférer par le biais de jumeaux numériques d'individus. Hidalgo a déclaréLa démocratie peut être actualisée ou améliorée grâce à la technologie et aux nouvelles idées, j'en suis absolument convaincu.
En 2022, "Chef de file Larsun chatbot, a été désigné pour se présenter aux élections législatives danoises, en tant que représentant du Parti synthétique.
Contrairement à ses prédécesseurs, Leader Lars a dirigé un parti politique et s'est engagé dans des discussions politiques critiques sans prétendre à l'objectivité, ajoutant ainsi une nouvelle dimension au concept de politiciens virtuels.
Avantages et critiques de l'algocratie
Les avantages d'Algocracy relèvent généralement de l'"efficacité". L'utilisation de l'IA et des algorithmes pour prendre des décisions complexes est plus rapide que de s'appuyer sur des humains.
Cela est particulièrement utile dans les domaines complexes du secteur public, qui sont déjà mis à rude épreuve par les retards.
La tentation d'expérimenter la prise de décision assistée par l'IA est donc immense, d'où les nombreux exemples notables dans le secteur public, dans des départements aux ressources limitées tels que le droit, la justice, l'économie et l'aide sociale.
Il est difficile d'obtenir la confiance dans ces outils, car les gouvernements ne veulent pas que leurs modèles propriétaires soient exposés, car cela pourrait exposer des données sensibles à des menaces. C'est pourquoi nombre de ces projets sont tenus très secrets, ce qui contribue à les rendre plus risqués.
L'historien et auteur de best-sellers tels que "Sapiens" et "Homo Deus", Yuval Noah Harari, a souligné que le conflit actuel entre les régimes démocratiques et autoritaires pourrait être considéré comme une bataille entre deux systèmes de traitement des données, l'IA et les algorithmes pouvant faire pencher la balance vers la centralisation et le contrôle.
M. Harari souligne que la capacité de l'IA à manipuler le langage et à générer des contenus persuasifs pourrait compromettre la démocratie. L'inquiétude ne porte pas seulement sur le fait que l'IA produise des informations biaisées ou fausses, mais aussi sur sa capacité à imiter la conversation humaine et à influencer l'opinion publique sans être détectée.
Harari décrit ensuite comment l'IA pourrait créer des chambres d'écho, que les régimes autoritaires pourraient exploiter plus efficacement que les démocraties. Les gouvernements autoritaires, qui exercent un contrôle centralisé sur les données et se soucient moins de la protection de la vie privée ou des contraintes éthiques, pourraient déployer l'IA de manière plus agressive pour surveiller et manipuler l'opinion publique.
Il existe des méthodes pour y remédier. Par exemple, la startup d'IA Anthropic a consacré des recherches considérables à "IA constitutionnelleet, plus précisément, "AI constitutionnelle collectivequi alimente un modèle d'intelligence artificielle avec les opinions des gens afin de "crowdsourcer" ses valeurs à partir de la population en général.
Ces techniques pourraient informer démocratiquement la gouvernance de l'IA, en veillant à ce que les modèles soient guidés par les opinions du public plutôt que par celles de leurs seuls créateurs.
L'opinion publique sur l'algocratie
D'un point de vue critique, que pense la majorité des gens de ces applications de l'IA ?
Ces voix sont les plus révélatrices de ce que la société ressent réellement à l'idée d'être entièrement ou partiellement gouvernée par des systèmes algorithmiques ou d'IA. Et n'oublions pas que le public finance ces projets par le biais de l'impôt.
Un sondage réalisé en 2019 par Centre pour la gouvernance du changement de l'université IE en Espagne a révélé des niveaux variables de soutien public dans les pays européens pour permettre à l'IA de prendre des décisions nationales importantes. Les Pays-Bas affichent le taux d'approbation le plus élevé (43%), tandis que le Portugal enregistre le taux le plus bas (19%).
Les chercheurs ont constaté que la désillusion à l'égard des dirigeants politiques ou des prestataires de services de sécurité peut accroître le penchant du public pour les agents artificiels, perçus comme plus fiables.
À terme, les modèles d'IA pourraient servir de calibrateur pour une action gouvernementale socialement responsable, en recueillant les opinions du public et en les imprégnant dans les modèles d'IA pour annuler certaines des manifestations les moins dignes de confiance de la démocratie traditionnelle.
Si elles sont correctement exécutées, ces techniques pourraient même obliger les gouvernements à rendre compte de manière transparente des souhaits démocratiques de la population.
Toutefois, à ce jour, la plupart des exemples d'algocratie illustrent une prise de décision étatique plutôt que démocratique.
