Le terme \"algocratie\" est apparu dans le discours acad\u00e9mique vers 2013, mais les exemples de gouvernance algorithmique remontent aux ann\u00e9es 60 et 70. <\/span><\/p>\n Bien que le traitement algorithmique et l'apprentissage automatique ou l'IA ne soient pas identiques, ils repr\u00e9sentent un continuum de technologies.\u00a0<\/span><\/p>\n Les th\u00e8mes centraux de la gouvernance algorithmique - l'abandon du contr\u00f4le humain au profit de syst\u00e8mes d\u00e9cisionnels informatis\u00e9s - sont pass\u00e9s des simulations math\u00e9matiques les plus simples aux mod\u00e8les d'auto-apprentissage les plus avanc\u00e9s d'aujourd'hui. <\/span><\/p>\n Faut-il s'en r\u00e9jouir ou s'en m\u00e9fier ?<\/span><\/p>\n La gouvernance algorithmique est n\u00e9e \u00e0 une \u00e9poque de num\u00e9risation rapide - les ann\u00e9es 1960.\u00a0<\/span><\/p>\n Voici une br\u00e8ve chronologie de l'int\u00e9gration des algorithmes et de l'IA dans les projets publics et gouvernementaux :\u00a0<\/span><\/p>\n L'un des projets les plus fascinants est <\/span>Cybersyn<\/span><\/a>au Chili, qui s'est d\u00e9roul\u00e9 de 1971 \u00e0 1973. Malgr\u00e9 sa courte dur\u00e9e de vie, le projet reste un exemple de la mani\u00e8re dont la soci\u00e9t\u00e9 - et les personnes - peuvent \u00eatre mod\u00e9lis\u00e9es avec succ\u00e8s par des syst\u00e8mes informatiques. <\/span><\/p>\n Les m\u00e9canismes sous-jacents sont fascinants, pr\u00e9figur\u00e9s par la chute de Salvador Allende, soutenue par la CIA, et la progression du Chili vers l'\u00e8re d\u00e9vastatrice de Pinochet.\u00a0<\/span><\/p>\n Au c\u0153ur du projet Cybersyn se trouvaient quatre \u00e9l\u00e9ments principaux :<\/span><\/p>\n Le projet Cybersyn a d\u00e9montr\u00e9 son potentiel lors d'une gr\u00e8ve nationale des camionneurs en 1972, au cours de laquelle le gouvernement a pu s'appuyer sur des donn\u00e9es en temps r\u00e9el pour att\u00e9nuer l'impact de la gr\u00e8ve. Le r\u00e9seau t\u00e9lex a jou\u00e9 un r\u00f4le crucial dans le maintien de la communication et la coordination de la distribution des ressources pendant la crise.<\/span><\/p>\n Cependant, le projet s'est arr\u00eat\u00e9 brusquement apr\u00e8s le coup d'\u00c9tat militaire du 11 septembre 1973. L'Opsroom et le syst\u00e8me plus large ont \u00e9t\u00e9 d\u00e9mantel\u00e9s, et Cybersyn est rest\u00e9 une vision inachev\u00e9e d'un syst\u00e8me de gestion \u00e9conomique technologiquement avanc\u00e9 et potentiellement socialement responsable. La politique de Cybersyn fait l'objet de nombreux d\u00e9bats, le syst\u00e8me \u00e9tant consid\u00e9r\u00e9 comme un exemple d'innovation sous le socialisme, ce qui lui a valu d'\u00eatre v\u00e9n\u00e9r\u00e9.<\/span><\/p>\n Il existe plusieurs autres exemples pr\u00e9coces d'algocratie, notamment les projets LEGOL et TAXMAN dans les ann\u00e9es 1970, qui ont ouvert la voie \u00e0 l'automatisation des processus fond\u00e9s sur des r\u00e8gles dans les agences fiscales. Les d\u00e9cennies suivantes ont vu l'\u00e9volution de ces technologies, les applications de surveillance devenant pr\u00e9pond\u00e9rantes dans les ann\u00e9es 2000.<\/span><\/p>\n En 2006, A. Aneesh, dans son livre \"<\/span>Migration virtuelle<\/span><\/a>L'article \"Algocratie\" a introduit le concept d'algocratie, explorant la mani\u00e8re dont les technologies de l'information peuvent limiter la participation humaine \u00e0 la prise de d\u00e9cision publique, en la distinguant des syst\u00e8mes bureaucratiques et des syst\u00e8mes fond\u00e9s sur le march\u00e9.<\/span><\/p>\n Puis, en 2013, Tim O'Reilly, fondateur et PDG d'O'Reilly Media Inc. a invent\u00e9 le terme \"r\u00e9glementation algorithmique\", articulant une vision de la gouvernance qui exploite la puissance des big data et des algorithmes pour obtenir des r\u00e9sultats juridiques sp\u00e9cifiques, appelant \u00e0 un changement de paradigme vers une gouvernance plus efficace et plus responsable.<\/span><\/p>\n Plus r\u00e9cemment, en 2017, le minist\u00e8re ukrainien de la justice a men\u00e9 des exp\u00e9riences de contr\u00f4le de l'acc\u00e8s \u00e0 l'information. <\/span>ench\u00e8res gouvernementales bas\u00e9es sur la blockchain<\/span><\/a> (c'est-\u00e0-dire les appels d'offres du secteur public), montrant le potentiel de ces technologies pour am\u00e9liorer la transparence et lutter contre la corruption dans les transactions gouvernementales.<\/span><\/p>\n Cela nous am\u00e8ne \u00e0 l'\u00e8re florissante de l'IA g\u00e9n\u00e9rative et aux mod\u00e8les frontaliers avanc\u00e9s d'aujourd'hui.<\/p>\n Le secteur public et les agences gouvernementales ont consid\u00e9rablement exp\u00e9riment\u00e9 la prise de d\u00e9cision algorithmique, l'IA et l'apprentissage automatique au cours des derni\u00e8res ann\u00e9es.\u00a0<\/span><\/p>\n Une \u00e9tude compl\u00e8te <\/span>men\u00e9e par l'Universit\u00e9 de Stanford<\/span><\/a> a r\u00e9v\u00e9l\u00e9 l'adoption significative des outils d'IA et de ML dans le secteur f\u00e9d\u00e9ral am\u00e9ricain, avec 45% des agences exp\u00e9rimentant ces technologies d'ici 2020.\u00a0<\/span><\/p>\n Palantir Technologies<\/span><\/a> est un fournisseur commercial majeur dans ce domaine, contribuant aux applications r\u00e9siduelles.<\/span><\/p>\n En ce qui concerne les agences sp\u00e9cifiques, l'Office of Justice Programs arrive en t\u00eate avec 12 cas d'utilisation, suivi de la Securities and Exchange Commission avec 10 cas et de la NASA avec 9 cas. Les autres agences les plus importantes sont la FDA, l'USGS, l'USPS, la SSA, l'USPTO, le BLS et le service des douanes et de la protection des fronti\u00e8res des \u00c9tats-Unis.<\/span><\/p>\n Il existe de nombreuses preuves de partialit\u00e9 dans certains de ces syst\u00e8mes. Les algorithmes de soins de sant\u00e9 aux \u00c9tats-Unis se sont r\u00e9v\u00e9l\u00e9s \u00eatre moins susceptibles d'adresser des patients noirs<\/a> pour des soins suppl\u00e9mentaires, et des outils de police pr\u00e9dictive comme le COMPAS<\/a> ont \u00e9t\u00e9 accus\u00e9s de pr\u00e9jug\u00e9s raciaux dans la pr\u00e9diction du risque de r\u00e9cidive (r\u00e9cidive) et la d\u00e9termination de la peine.\u00a0<\/span><\/p>\n Un r\u00e9cent <\/span>Enqu\u00eate du Guardian<\/span><\/a> dans le secteur public britannique a r\u00e9v\u00e9l\u00e9 que les algorithmes utilis\u00e9s dans des domaines tels que l'aide sociale, l'immigration et la justice p\u00e9nale ont \u00e9t\u00e9 impliqu\u00e9s dans des cas d'abus et de discrimination.\u00a0<\/span><\/p>\n Le minist\u00e8re du travail et des pensions (DWP) a notamment \u00e9t\u00e9 critiqu\u00e9 pour un algorithme qui aurait conduit \u00e0 des suspensions injustifi\u00e9es de prestations, et l'outil de reconnaissance faciale de la police m\u00e9tropolitaine a r\u00e9v\u00e9l\u00e9 des taux d'erreur plus \u00e9lev\u00e9s pour les visages noirs.<\/span><\/p>\n Une autre branche de l'algocratie est la justice algorithmique ou influenc\u00e9e par l'IA et l'application de la loi.<\/span><\/p>\n Outre le syst\u00e8me am\u00e9ricain COMPAS, l'Australie a mis en place un syst\u00e8me d'information sur la sant\u00e9. \"Logiciel \"Split Up<\/a> La Chine a \u00e9t\u00e9 la premi\u00e8re \u00e0 mettre en place des tribunaux sur l'internet, avec un juge virtuel dot\u00e9 d'une IA qui l'assiste dans les t\u00e2ches de base li\u00e9es aux litiges.\u00a0<\/span><\/p>\n L'exp\u00e9rience du gouvernement n\u00e9erlandais en mati\u00e8re de <\/span>Indication du risque du syst\u00e8me (SyRI)<\/span><\/a> con\u00e7u pour d\u00e9tecter les fraudes aux prestations sociales, a fait l'objet de contestations juridiques en raison de ses effets discriminatoires potentiels et de son manque de transparence, ce qui a conduit \u00e0 une d\u00e9cision de justice historique contre son utilisation.<\/span><\/p>\n L'adoption par le Br\u00e9sil de la technologie de reconnaissance faciale \u00e0 S\u00e3o Paulo par le biais de la <\/span>Projet Smart Sampa<\/span><\/a> et d'autres formes de police pr\u00e9dictive, y compris plusieurs programmes aux \u00c9tats-Unis, montre que la technologie peut influencer la gestion des libert\u00e9s fondamentales des citoyens.\u00a0<\/span><\/p>\n Le logiciel Gotham de Palantir est utilis\u00e9 par la police de la Nouvelle-Orl\u00e9ans depuis 2012 pour la police pr\u00e9dictive, et de nouvelles versions ont \u00e9t\u00e9 d\u00e9velopp\u00e9es. <\/span>ont \u00e9t\u00e9 d\u00e9clar\u00e9s comme \u00e9tant un \u00e9chec<\/span><\/a>La police peut donc \u00eatre amen\u00e9e \u00e0 faire preuve de partialit\u00e9 \u00e0 l'\u00e9gard des communaut\u00e9s marginalis\u00e9es et \u00e0 gaspiller les ressources de la police.\u00a0<\/span><\/p>\n En outre, les robots juridiques se chargent de plus en plus de t\u00e2ches traditionnellement confi\u00e9es \u00e0 des assistants juridiques, gr\u00e2ce \u00e0 des technologies telles que ROSS Intelligence, qui aident les cabinets d'avocats am\u00e9ricains \u00e0 effectuer des recherches juridiques.\u00a0<\/span><\/p>\n Des avocats ont r\u00e9cemment fait \u00e9tat de l'utilisation de l'IA g\u00e9n\u00e9rative, y compris ChatGPT, pour aider \u00e0 la recherche d'affaires - y compris une \u00e9tude d'impact de l'IA g\u00e9n\u00e9rative sur la sant\u00e9. <\/span>incident tr\u00e8s m\u00e9diatis\u00e9<\/span><\/a> o\u00f9 un avocat a pr\u00e9sent\u00e9 des r\u00e9clamations juridiques avec des cas fabriqu\u00e9s par l'IA.\u00a0<\/span><\/p>\n Le remplacement complet des politiciens par l'IA a fait l'objet de nombreuses sp\u00e9culations, notamment dans un r\u00e9cent podcast de Joe Rogan et du PDG d'OpenAI, Sam Altman. <\/span><\/p>\n Joe Rogan aborde le sujet en affirmant que l'IA pourrait s'av\u00e9rer plus objectivement capable de r\u00e9pondre aux besoins sp\u00e9cifiques des personnes, ind\u00e9pendamment des influences financi\u00e8res et politiques. <\/span><\/p>\n M. Altman reconna\u00eet que les d\u00e9cisions des gouvernements conventionnels sont souvent fond\u00e9es sur des motifs corrompus, mais il n'est pas \u00e0 l'aise avec l'id\u00e9e de confier \u00e0 l'IA d'importantes d\u00e9cisions soci\u00e9tales.\u00a0<\/span><\/p>\nOrigine de l'algocratie<\/span><\/h2>\n
\n
![\"CyberSyn\"](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/11\/CyberSyn-render-106-1024x576.png\")
\n
Exp\u00e9rimentation de l'IA et des algorithmes dans le secteur public<\/span><\/h2>\n
La justice par l'IA et les algorithmes<\/span><\/h2>\n
![\"IA](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/10\/images4.persgroep.net_.jpg\")
![\"Sao](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/10\/surveillance.png\")
Les politiciens de l'IA se pr\u00e9sentent aux \u00e9lections<\/span><\/h2>\n