À medida que os sistemas algorítmicos e de aprendizagem automática começam a proliferar nos sectores governamental e público, poderemos estar a caminhar para uma forma de governação por algoritmo - ou uma "algocracia"?
A Algogracia - uma forma de governação baseada em algoritmos relacionada com a tecnocracia e a cibercracia - aplica sistematicamente a IA, a cadeia de blocos e os algoritmos a vários aspectos do direito e da sociedade.
O próprio termo "algocracia" surgiu no discurso académico por volta de 2013, mas os exemplos de governação algorítmica remontam aos anos 60 e 70.
Embora o processamento algorítmico e a aprendizagem automática ou a IA não sejam a mesma coisa, representam um conjunto contínuo de tecnologias.
Os temas centrais da governação algorítmica - a cedência do controlo humano a sistemas informatizados de tomada de decisões - passaram de simulações matemáticas mais simples para os modelos avançados de auto-aprendizagem actuais.
É algo que devemos saudar ou de que devemos ser cautelosos?
Origens da algocracia
A governação algorítmica nasceu de uma era de rápida digitalização - a década de 1960.
Eis uma breve cronologia da forma como a tomada de decisões algorítmicas e integradas na IA tem sido utilizada em projectos públicos e governamentais:
- 1962: Alexander Kharkevich propõe uma rede informática para a governação algorítmica em Moscovo.
- 1971-1973: O projeto Cybersyn no Chile tenta gerir a economia nacional.
- 1970s: Desenvolvimento dos primeiros sistemas de raciocínio jurídico e de interpretação da legislação fiscal, como o projeto LEGOL do Reino Unido e o projeto TAXMAN dos EUA.
- 1993: Publicação de "Rumo a um novo socialismo", que discute as potencialidades de uma economia democraticamente planificada assente na tecnologia informática moderna.
- 2000s: Os algoritmos começam a ser utilizados para a análise de vídeos de vigilância.
- 2006: A. Aneesh introduz o conceito de algocracia, discutindo o impacto das tecnologias da informação na tomada de decisões públicas.
- 2013: Tim O'Reilly cunhou o termo "regulação algorítmica", defendendo a utilização de grandes volumes de dados e algoritmos na administração pública.
- 2017: O Ministério da Justiça da Ucrânia efectua leilões governamentais experimentais utilizando a cadeia de blocos.
- Hoje: Existem numerosos exemplos de sistemas de aprendizagem automática implantados nos sectores público e governamental, alguns dos quais estão comprovadamente a tomar decisões de alto nível que mudam vidas com um mínimo de supervisão humana.
Um dos projectos mais fascinantes é Cybersynno Chile, que decorreu de 1971 a 1973. Apesar da sua curta duração, o projeto continua a ser um exemplo de como a sociedade - e as pessoas - podem ser modeladas com sucesso por sistemas informáticos.
A mecânica subjacente é fascinante, prefigurada com a queda de Salvador Allende, apoiada pela CIA, e a progressão do Chile para a devastadora era Pinochet.
No centro do Projeto Cybersyn estavam quatro componentes principais:
- Simulador económico: Este módulo foi concebido para modelar a economia chilena, permitindo aos funcionários públicos simular os resultados de várias decisões económicas.
- Software para desempenho de fábrica: Foi desenvolvido um software personalizado para monitorizar e avaliar o desempenho da fábrica, centrando-se em indicadores-chave como os níveis de produção e o fornecimento de matérias-primas.
- Sala de operações (Opsroom): Este era o centro físico da Cybersyn, onde os dados económicos eram recolhidos, processados e apresentados. A sala de operações permitia que os decisores assimilassem rapidamente informações complexas e fizessem escolhas informadas.
- Rede nacional de máquinas de telex: Estes estavam ligados a um computador central e formavam uma rede de comunicação (designada por "Cybernet") entre as empresas públicas. Esta rede facilitava a transmissão em tempo real de dados económicos ao governo central.
O Projeto Cybersyn demonstrou o seu potencial durante uma greve nacional de camionistas em 1972, em que o governo pôde contar com dados em tempo real para atenuar o impacto da greve. A rede de telex foi crucial para manter a comunicação e coordenar a distribuição de recursos durante a crise.
No entanto, o projeto terminou abruptamente após o golpe militar de 11 de setembro de 1973. A sala de operações e o sistema mais vasto foram desmantelados, ficando Cybersyn como uma visão inacabada de um sistema de gestão económica tecnologicamente avançado e potencialmente socialmente responsável. A política do Cybersyn é muito debatida, sendo considerado um exemplo de inovação no socialismo, pelo qual tem sido reverenciado.
Existem vários outros exemplos iniciais de algocracia, incluindo os projectos LEGOL e TAXMAN na década de 1970, que prepararam o terreno para a automatização de processos baseados em regras nas agências fiscais. As décadas seguintes testemunharam a evolução destas tecnologias, com as aplicações de vigilância a tornarem-se proeminentes nos anos 2000.
Em 2006, A. Aneesh, no seu livro "Migração virtualA "algocracia" introduziu o conceito de algocracia, explorando a forma como as tecnologias da informação podem condicionar a participação humana na tomada de decisões públicas, distinguindo-a dos sistemas burocráticos e baseados no mercado.
Depois, em 2013, Tim O'Reilly, fundador e CEO da O'Reilly Media Inc., cunhou o termo "regulação algorítmica", articulando uma visão para a governação que aproveita o poder dos grandes dados e algoritmos para alcançar resultados legais específicos, apelando a uma mudança de paradigma para uma governação mais eficiente e responsável.
Mais recentemente, em 2017, o Ministério da Justiça da Ucrânia efectuou uma experiência leilões governamentais baseados na cadeia de blocos (também conhecido como concurso público), demonstrando o potencial destas tecnologias para aumentar a transparência e combater a corrupção nas transacções governamentais.
E isso leva-nos até à era florescente da IA generativa e aos actuais modelos avançados de fronteira.
Experimentação do sector público com IA e algoritmos
Nos últimos anos, o sector público e as agências governamentais têm experimentado consideravelmente a tomada de decisões algorítmicas, a IA e a aprendizagem automática.
Um estudo exaustivo realizado pela Universidade de Stanford revelou a adoção significativa de ferramentas de IA e ML no sector federal dos EUA, com 45% de agências a experimentarem estas tecnologias até 2020.
Palantir Technologies é um importante fornecedor comercial neste espaço, contribuindo para as aplicações residuais.
No que respeita a agências específicas, o Gabinete de Programas de Justiça lidera com 12 casos de utilização, seguido da Comissão de Títulos e Câmbios com 10 e da NASA com nove. Outras agências de destaque incluem a FDA, USGS, USPS, SSA, USPTO, BLS e US Customs and Border Protection.
Existem provas generalizadas de parcialidade nalguns destes sistemas. Os algoritmos de cuidados de saúde nos EUA foram considerados menos propensos a encaminhar pacientes negros para cuidados adicionais, e ferramentas de policiamento preditivo como COMPAS têm sido acusados de preconceitos raciais na previsão do risco de reincidência (reincidência) e nas sentenças.
Um recente Investigação do Guardian no sector público do Reino Unido concluiu que os algoritmos utilizados em áreas como a segurança social, a imigração e a justiça penal foram implicados em casos de utilização indevida e discriminação.
Nomeadamente, o Departamento do Trabalho e Pensões (DWP) foi criticado por um algoritmo que alegadamente conduziu a suspensões indevidas de subsídios e a ferramenta de reconhecimento facial da Polícia Metropolitana revelou taxas de erro mais elevadas para rostos negros.
Justiça por IA e algoritmo
Outro ramo da algocracia é a justiça e a aplicação da lei influenciadas por algoritmos ou IA.
Para além do sistema COMPAS dos EUA, na Austrália, o "Software "Split Up ajuda os juízes a determinar a divisão de bens durante os processos de divórcio, e a China foi pioneira na criação de tribunais na Internet, com um juiz virtual de IA a ajudar nas tarefas básicas de litígio.
A experiência do governo neerlandês com o Indicação de risco do sistema (SyRI) concebido para detetar fraudes na segurança social, enfrentou desafios legais devido aos seus potenciais efeitos discriminatórios e à falta de transparência, o que levou a uma decisão judicial histórica contra a sua utilização.
A adoção pelo Brasil da tecnologia de reconhecimento facial em São Paulo através do Projeto Smart Sampa e outras formas de policiamento preditivo, incluindo vários programas nos EUA, indicam o potencial da tecnologia para influenciar a governação das liberdades fundamentais das pessoas.
O software Gotham da Palantir tem sido utilizado pelo Departamento de Polícia de Nova Orleães desde 2012 para o policiamento preditivo, e as iterações mais recentes foram declarados um fracassoA polícia tem um papel importante a desempenhar, infligindo preconceitos às comunidades marginalizadas e desperdiçando recursos policiais.
Além disso, os robôs jurídicos estão a assumir cada vez mais tarefas tradicionalmente realizadas por assistentes jurídicos, com tecnologias como a ROSS Intelligence a ajudar os escritórios de advogados dos EUA na investigação jurídica.
Recentemente, houve relatos de advogados que utilizaram a IA generativa, incluindo o ChatGPT, para ajudar na investigação de casos - incluindo um incidente de grande visibilidade em que um advogado apresentou acções judiciais com casos fabricados por IA.
Políticos com IA candidatam-se a cargos públicos
A substituição total dos políticos por IA tem sido objeto de muita especulação, incluindo num podcast recente de Joe Rogan e do CEO da OpenAI, Sam Altman.
Joe Rogan aborda o tema, afirmando que a IA pode revelar-se mais objetivamente capaz de beneficiar as necessidades específicas das pessoas, independentemente de influências financeiras e políticas.
Altman concorda que o processo convencional de tomada de decisões governamentais se baseia frequentemente em motivos corruptos, mas não se sente à vontade para confiar demasiado à IA decisões importantes para a sociedade.
Em 2018, Michihito Matsuda candidatou-se a presidente da câmara na zona de Tama, em Tóquio, como representante humano para um programa de IAque apresenta uma nova abordagem à candidatura política. Apesar de não ter vencido, esta iniciativa destacou o potencial da IA na política.
Cesar Hidalgo introduziu o conceito de democracia aumentada em 2018, propondo legislação através de gémeos digitais de indivíduos. Hidalgo disseEstou absolutamente convencido de que a democracia pode ser actualizada ou melhorada através da tecnologia e de novas ideias".
Em 2022, "Líder Lars," um chatbot, foi nomeado para concorrer às eleições parlamentares dinamarquesas, em representação do Partido Sintético.
Ao contrário dos seus antecessores, o Leader Lars liderava um partido político e participava em discussões políticas críticas sem pretender ser objetivo, acrescentando uma nova dimensão ao conceito de políticos virtuais.
Benefícios e críticas da algocracia
Os benefícios da Algocracia enquadram-se normalmente no conceito de "eficiência". Utilizar a IA e os algoritmos para tomar decisões complexas é mais rápido do que depender de humanos.
Isto é particularmente vantajoso em áreas complexas do sector público, que já estão sobrecarregadas por atrasos.
Assim, a tentação de experimentar a tomada de decisões com recurso à IA é imensa, razão pela qual existem tantos exemplos notáveis no sector público em departamentos com recursos limitados, como o direito, a justiça, a economia e a segurança social.
Ganhar confiança nestas ferramentas é um desafio, uma vez que os governos não querem que os seus modelos proprietários sejam expostos, pois isso poderia deixar os dados sensíveis expostos a ameaças. Como tal, muitos destes projectos são mantidos em segredo, o que contribui para os seus riscos.
O historiador e autor de bestsellers como "Sapiens" e "Homo Deus", Yuval Noah Harari, salientou que o atual conflito entre regimes democráticos e autoritários pode ser visto como uma batalha entre dois sistemas de processamento de dados, com a IA e os algoritmos a fazerem pender a balança para a centralização e o controlo.
Harari salienta que a capacidade da IA para manipular a linguagem e gerar conteúdos persuasivos pode comprometer a democracia. A preocupação não se prende apenas com o facto de a IA produzir informação tendenciosa ou falsa, mas também com a sua capacidade de imitar a conversação humana e influenciar a opinião pública sem ser detectada.
Harari descreve ainda como a IA pode criar câmaras de eco, que os regimes autoritários podem aproveitar de forma mais eficaz do que as democracias. Os governos autoritários, com o seu controlo centralizado sobre os dados e menos preocupação com a privacidade ou restrições éticas, poderiam utilizar a IA de forma mais agressiva para vigiar e manipular a opinião pública.
Existem métodos para remediar esta situação. Por exemplo, a Anthropic, uma empresa de IA, dedicou uma investigação considerável à "IA constitucionale, mais especificamente, "IA constitucional colectivaque alimenta um modelo de IA com as opiniões das pessoas para "crowdsource" os seus valores a partir da população em geral.
Estas técnicas poderiam informar democraticamente a governação da IA, garantindo que os modelos são orientados pelas opiniões públicas e não apenas pelas dos seus criadores.
Opinião pública sobre a algocracia
Em termos críticos, o que pensa a maioria das pessoas sobre estas aplicações da IA?
Essas vozes são mais indicativas do que a sociedade realmente sente sobre ser total ou parcialmente governada por sistemas algorítmicos ou de IA. E não esqueçamos que o público financia estes projectos através dos impostos.
Uma sondagem de 2019 realizada por Centro de Governação da Mudança da Universidade IE em Espanha revelou níveis variáveis de apoio público nos países europeus para permitir que a IA tome decisões nacionais importantes. Os Países Baixos registaram a aprovação mais elevada, com 43%, enquanto Portugal registou a mais baixa, com 19%.
Os investigadores descobriram que a desilusão com os líderes políticos ou com os fornecedores de segurança pode aumentar a inclinação do público para agentes artificiais, considerados mais fiáveis.
Com o tempo, os modelos de IA poderão funcionar como um calibrador para uma ação governamental socialmente responsável, recolhendo opiniões do público e impregnando-as nos modelos de IA para anular algumas das manifestações menos fiáveis da democracia tradicional.
Se executadas corretamente, estas técnicas podem mesmo responsabilizar de forma transparente os governos pelos desejos democráticos dos cidadãos.
No entanto, até à data, a maior parte dos exemplos de algocracia ilustram atualmente a tomada de decisões pelo Estado, e não pela democracia.
