El propio t\u00e9rmino \"algocracia\" surgi\u00f3 en el discurso acad\u00e9mico alrededor de 2013, pero los ejemplos de gobernanza algor\u00edtmica se remontan a los a\u00f1os 60 y 70. <\/span><\/p>\n Aunque el procesamiento algor\u00edtmico y el aprendizaje autom\u00e1tico o la IA no son lo mismo, representan un continuo de tecnolog\u00edas.\u00a0<\/span><\/p>\n Los temas centrales de la gobernanza algor\u00edtmica (ceder el control humano a sistemas informatizados de toma de decisiones) han pasado de las simulaciones matem\u00e1ticas m\u00e1s sencillas a los actuales modelos avanzados de autoaprendizaje. <\/span><\/p>\n \u00bfEs algo de lo que debemos alegrarnos o desconfiar?<\/span><\/p>\n La gobernanza algor\u00edtmica naci\u00f3 en una \u00e9poca de r\u00e1pida digitalizaci\u00f3n: los a\u00f1os sesenta.\u00a0<\/span><\/p>\n He aqu\u00ed una breve cronolog\u00eda de c\u00f3mo la toma de decisiones integrada en algoritmos e IA ha protagonizado proyectos p\u00fablicos y gubernamentales:\u00a0<\/span><\/p>\n Uno de los proyectos m\u00e1s fascinantes es <\/span>Cybersyn<\/span><\/a>en Chile, que se desarroll\u00f3 entre 1971 y 1973. A pesar de su corta vida, el proyecto sigue siendo un ejemplo de c\u00f3mo los sistemas inform\u00e1ticos pueden modelar con \u00e9xito la sociedad y las personas. <\/span><\/p>\n Su mec\u00e1nica es fascinante, prefigurada por la ca\u00edda de Salvador Allende, apoyada por la CIA, y la progresi\u00f3n de Chile hacia la devastadora era de Pinochet.\u00a0<\/span><\/p>\n En el n\u00facleo del Proyecto Cybersyn hab\u00eda cuatro componentes principales:<\/span><\/p>\n El Proyecto Cybersyn demostr\u00f3 su potencial durante una huelga nacional de camioneros en 1972, en la que el gobierno pudo contar con datos en tiempo real para mitigar el impacto de la huelga. La red de t\u00e9lex fue crucial para mantener la comunicaci\u00f3n y coordinar la distribuci\u00f3n de recursos en medio de la crisis.<\/span><\/p>\n Sin embargo, el proyecto termin\u00f3 abruptamente tras el golpe militar del 11 de septiembre de 1973. La Opsroom y el sistema m\u00e1s amplio fueron desmantelados, y Cybersyn qued\u00f3 como una visi\u00f3n inacabada de un sistema de gesti\u00f3n econ\u00f3mica tecnol\u00f3gicamente avanzado y potencialmente socialmente responsable. La pol\u00edtica de Cybersyn es muy debatida, siendo un ejemplo de innovaci\u00f3n bajo el socialismo, por lo que ha sido venerada.<\/span><\/p>\n Existen otros ejemplos tempranos de algocracia, como los proyectos LEGOL y TAXMAN de los a\u00f1os setenta, que sentaron las bases para la automatizaci\u00f3n de los procesos basados en reglas en las agencias tributarias. Las d\u00e9cadas siguientes fueron testigos de la evoluci\u00f3n de estas tecnolog\u00edas, y las aplicaciones de vigilancia cobraron protagonismo en la d\u00e9cada de 2000.<\/span><\/p>\n En 2006, A. Aneesh, en su libro \"<\/span>Migraci\u00f3n virtual<\/span><\/a>El informe de la Comisi\u00f3n Europea \"La democracia en la sociedad de la informaci\u00f3n\" introduce el concepto de algocracia, explorando c\u00f3mo las tecnolog\u00edas de la informaci\u00f3n pueden limitar la participaci\u00f3n humana en la toma de decisiones p\u00fablicas, distingui\u00e9ndola de los sistemas burocr\u00e1ticos y de mercado.<\/span><\/p>\n En 2013, Tim O'Reilly, fundador y consejero delegado de O'Reilly Media Inc. acu\u00f1\u00f3 el t\u00e9rmino \"regulaci\u00f3n algor\u00edtmica\", articulando una visi\u00f3n de la gobernanza que aprovecha el poder de los macrodatos y los algoritmos para lograr resultados jur\u00eddicos espec\u00edficos, abogando por un cambio de paradigma hacia una gobernanza m\u00e1s eficiente y responsable.<\/span><\/p>\n M\u00e1s recientemente, en 2017, el Ministerio de Justicia de Ucrania realiz\u00f3 experimentos <\/span>subastas p\u00fablicas basadas en blockchain<\/span><\/a> (licitaci\u00f3n del sector p\u00fablico), mostrando el potencial de estas tecnolog\u00edas para aumentar la transparencia y combatir la corrupci\u00f3n en las transacciones gubernamentales.<\/span><\/p>\n Y eso nos lleva hasta la floreciente era de la IA generativa y los actuales modelos avanzados de frontera.<\/p>\n El sector p\u00fablico y los organismos gubernamentales han experimentado considerablemente con la toma de decisiones algor\u00edtmica, la IA y el aprendizaje autom\u00e1tico en los \u00faltimos a\u00f1os.\u00a0<\/span><\/p>\n Un estudio exhaustivo <\/span>realizado por la Universidad de Stanford<\/span><\/a> revel\u00f3 la importante adopci\u00f3n de herramientas de IA y ML en el sector federal estadounidense, con 45% de agencias experimentando con estas tecnolog\u00edas para 2020.\u00a0<\/span><\/p>\n Tecnolog\u00edas Palantir<\/span><\/a> es un importante proveedor comercial en este espacio, que contribuye a las aplicaciones residuales.<\/span><\/p>\n En cuanto a organismos concretos, la Oficina de Programas de Justicia encabeza la lista con 12 casos de uso, seguida de la Comisi\u00f3n de Valores y Bolsa con 10 y la NASA con nueve. Otros organismos destacados son la FDA, USGS, USPS, SSA, USPTO, BLS y US Customs and Border Protection.<\/span><\/p>\n Existen pruebas generalizadas de sesgo entre algunos de estos sistemas. Se ha descubierto que los algoritmos de asistencia sanitaria en EE.UU. son menos propensos a derivar a pacientes negros<\/a> de atenci\u00f3n adicional, y herramientas policiales predictivas como COMPAS<\/a> han sido acusados de prejuicios raciales a la hora de predecir el riesgo de reincidencia y de dictar sentencia.\u00a0<\/span><\/p>\n Un reciente <\/span>Investigaci\u00f3n de The Guardian<\/span><\/a> en el sector p\u00fablico brit\u00e1nico descubri\u00f3 que los algoritmos utilizados en \u00e1mbitos como la asistencia social, la inmigraci\u00f3n y la justicia penal se han visto implicados en casos de uso indebido y discriminaci\u00f3n.\u00a0<\/span><\/p>\n En particular, el Departamento de Trabajo y Pensiones (DWP) se enfrent\u00f3 a cr\u00edticas por un algoritmo que supuestamente dio lugar a suspensiones err\u00f3neas de prestaciones, y la herramienta de reconocimiento facial de la Polic\u00eda Metropolitana mostr\u00f3 mayores tasas de error en los rostros negros.<\/span><\/p>\n Otra rama de la algocracia es la justicia y la aplicaci\u00f3n de la ley algor\u00edtmicas o influidas por la IA.<\/span><\/p>\n Adem\u00e1s del sistema COMPAS estadounidense, en Australia, el \"Software \"Split Up<\/a> ayuda a los jueces a determinar la divisi\u00f3n de bienes durante los procesos de divorcio, y China ha sido pionera en la creaci\u00f3n de tribunales por Internet, con un juez virtual de IA que asiste en las tareas b\u00e1sicas del litigio.\u00a0<\/span><\/p>\n La experiencia del Gobierno neerland\u00e9s con el <\/span>Indicaci\u00f3n de riesgo del sistema (SyRI)<\/span><\/a> dise\u00f1ado para detectar el fraude en la asistencia social, se enfrent\u00f3 a desaf\u00edos legales por sus posibles efectos discriminatorios y su falta de transparencia, lo que llev\u00f3 a una sentencia judicial hist\u00f3rica contra su uso.<\/span><\/p>\n La adopci\u00f3n en Brasil de la tecnolog\u00eda de reconocimiento facial en S\u00e3o Paulo a trav\u00e9s de la <\/span>Proyecto Smart Sampa<\/span><\/a> y otras formas de polic\u00eda predictiva, incluidos varios programas en Estados Unidos, indica el potencial de la tecnolog\u00eda para influir en la gobernanza de las libertades fundamentales de las personas.\u00a0<\/span><\/p>\n El software Gotham de Palantir ha sido utilizado por el Departamento de Polic\u00eda de Nueva Orleans desde 2012 para la polic\u00eda predictiva, y las iteraciones m\u00e1s recientes <\/span>han sido declarados un fracaso<\/span><\/a>La delincuencia organizada, que inflige prejuicios a las comunidades marginadas y malgasta los recursos policiales.\u00a0<\/span><\/p>\n Adem\u00e1s, los robots jur\u00eddicos est\u00e1n asumiendo cada vez m\u00e1s tareas que tradicionalmente realizaban los asistentes jur\u00eddicos, con tecnolog\u00edas como ROSS Intelligence, que ayuda a los bufetes de abogados estadounidenses en la investigaci\u00f3n jur\u00eddica.\u00a0<\/span><\/p>\n Recientemente se han publicado informes sobre abogados que utilizan IA generativa, como ChatGPT, para ayudarles en la investigaci\u00f3n de casos, entre ellos una <\/span>incidente de gran repercusi\u00f3n<\/span><\/a> en el que un abogado presentaba demandas judiciales con casos fabricados por la IA.\u00a0<\/span><\/p>\n La sustituci\u00f3n completa de los pol\u00edticos por la IA ha sido objeto de muchas especulaciones, incluso en un podcast reciente de Joe Rogan y el CEO de OpenAI, Sam Altman. <\/span><\/p>\n Joe Rogan saca el tema a colaci\u00f3n, afirmando que la IA podr\u00eda resultar m\u00e1s objetivamente capaz de beneficiar a las necesidades espec\u00edficas de las personas, al margen de influencias financieras y pol\u00edticas. <\/span><\/p>\n Altman est\u00e1 de acuerdo en que la toma de decisiones gubernamental convencional suele basarse en motivos corruptos, pero no se siente c\u00f3modo confiando en exceso a la IA decisiones importantes para la sociedad.\u00a0<\/span><\/p>\nOr\u00edgenes de la algocracia<\/span><\/h2>\n
\n
![\"CyberSyn\"](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/11\/CyberSyn-render-106-1024x576.png\")
\n
Experimentaci\u00f3n del sector p\u00fablico con IA y algoritmos<\/span><\/h2>\n
Justicia por IA y algoritmo<\/span><\/h2>\n
![\"IA](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/10\/images4.persgroep.net_.jpg\")
![\"Sao](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/10\/surveillance.png\")
Los pol\u00edticos de la IA se presentan a las elecciones<\/span><\/h2>\n