O pr\u00f3prio termo \"algocracia\" surgiu no discurso acad\u00e9mico por volta de 2013, mas os exemplos de governa\u00e7\u00e3o algor\u00edtmica remontam aos anos 60 e 70. <\/span><\/p>\n Embora o processamento algor\u00edtmico e a aprendizagem autom\u00e1tica ou a IA n\u00e3o sejam a mesma coisa, representam um conjunto cont\u00ednuo de tecnologias.\u00a0<\/span><\/p>\n Os temas centrais da governa\u00e7\u00e3o algor\u00edtmica - a ced\u00eancia do controlo humano a sistemas informatizados de tomada de decis\u00f5es - passaram de simula\u00e7\u00f5es matem\u00e1ticas mais simples para os modelos avan\u00e7ados de auto-aprendizagem actuais. <\/span><\/p>\n \u00c9 algo que devemos saudar ou de que devemos ser cautelosos?<\/span><\/p>\n A governa\u00e7\u00e3o algor\u00edtmica nasceu de uma era de r\u00e1pida digitaliza\u00e7\u00e3o - a d\u00e9cada de 1960.\u00a0<\/span><\/p>\n Eis uma breve cronologia da forma como a tomada de decis\u00f5es algor\u00edtmicas e integradas na IA tem sido utilizada em projectos p\u00fablicos e governamentais:\u00a0<\/span><\/p>\n Um dos projectos mais fascinantes \u00e9 <\/span>Cybersyn<\/span><\/a>no Chile, que decorreu de 1971 a 1973. Apesar da sua curta dura\u00e7\u00e3o, o projeto continua a ser um exemplo de como a sociedade - e as pessoas - podem ser modeladas com sucesso por sistemas inform\u00e1ticos. <\/span><\/p>\n A mec\u00e2nica subjacente \u00e9 fascinante, prefigurada com a queda de Salvador Allende, apoiada pela CIA, e a progress\u00e3o do Chile para a devastadora era Pinochet.\u00a0<\/span><\/p>\n No centro do Projeto Cybersyn estavam quatro componentes principais:<\/span><\/p>\n O Projeto Cybersyn demonstrou o seu potencial durante uma greve nacional de camionistas em 1972, em que o governo p\u00f4de contar com dados em tempo real para atenuar o impacto da greve. A rede de telex foi crucial para manter a comunica\u00e7\u00e3o e coordenar a distribui\u00e7\u00e3o de recursos durante a crise.<\/span><\/p>\n No entanto, o projeto terminou abruptamente ap\u00f3s o golpe militar de 11 de setembro de 1973. A sala de opera\u00e7\u00f5es e o sistema mais vasto foram desmantelados, ficando Cybersyn como uma vis\u00e3o inacabada de um sistema de gest\u00e3o econ\u00f3mica tecnologicamente avan\u00e7ado e potencialmente socialmente respons\u00e1vel. A pol\u00edtica do Cybersyn \u00e9 muito debatida, sendo considerado um exemplo de inova\u00e7\u00e3o no socialismo, pelo qual tem sido reverenciado.<\/span><\/p>\n Existem v\u00e1rios outros exemplos iniciais de algocracia, incluindo os projectos LEGOL e TAXMAN na d\u00e9cada de 1970, que prepararam o terreno para a automatiza\u00e7\u00e3o de processos baseados em regras nas ag\u00eancias fiscais. As d\u00e9cadas seguintes testemunharam a evolu\u00e7\u00e3o destas tecnologias, com as aplica\u00e7\u00f5es de vigil\u00e2ncia a tornarem-se proeminentes nos anos 2000.<\/span><\/p>\n Em 2006, A. Aneesh, no seu livro \"<\/span>Migra\u00e7\u00e3o virtual<\/span><\/a>A \"algocracia\" introduziu o conceito de algocracia, explorando a forma como as tecnologias da informa\u00e7\u00e3o podem condicionar a participa\u00e7\u00e3o humana na tomada de decis\u00f5es p\u00fablicas, distinguindo-a dos sistemas burocr\u00e1ticos e baseados no mercado.<\/span><\/p>\n Depois, em 2013, Tim O'Reilly, fundador e CEO da O'Reilly Media Inc., cunhou o termo \"regula\u00e7\u00e3o algor\u00edtmica\", articulando uma vis\u00e3o para a governa\u00e7\u00e3o que aproveita o poder dos grandes dados e algoritmos para alcan\u00e7ar resultados legais espec\u00edficos, apelando a uma mudan\u00e7a de paradigma para uma governa\u00e7\u00e3o mais eficiente e respons\u00e1vel.<\/span><\/p>\n Mais recentemente, em 2017, o Minist\u00e9rio da Justi\u00e7a da Ucr\u00e2nia efectuou uma experi\u00eancia <\/span>leil\u00f5es governamentais baseados na cadeia de blocos<\/span><\/a> (tamb\u00e9m conhecido como concurso p\u00fablico), demonstrando o potencial destas tecnologias para aumentar a transpar\u00eancia e combater a corrup\u00e7\u00e3o nas transac\u00e7\u00f5es governamentais.<\/span><\/p>\n E isso leva-nos at\u00e9 \u00e0 era florescente da IA generativa e aos actuais modelos avan\u00e7ados de fronteira.<\/p>\n Nos \u00faltimos anos, o sector p\u00fablico e as ag\u00eancias governamentais t\u00eam experimentado consideravelmente a tomada de decis\u00f5es algor\u00edtmicas, a IA e a aprendizagem autom\u00e1tica.\u00a0<\/span><\/p>\n Um estudo exaustivo <\/span>realizado pela Universidade de Stanford<\/span><\/a> revelou a ado\u00e7\u00e3o significativa de ferramentas de IA e ML no sector federal dos EUA, com 45% de ag\u00eancias a experimentarem estas tecnologias at\u00e9 2020.\u00a0<\/span><\/p>\n Palantir Technologies<\/span><\/a> \u00e9 um importante fornecedor comercial neste espa\u00e7o, contribuindo para as aplica\u00e7\u00f5es residuais.<\/span><\/p>\n No que respeita a ag\u00eancias espec\u00edficas, o Gabinete de Programas de Justi\u00e7a lidera com 12 casos de utiliza\u00e7\u00e3o, seguido da Comiss\u00e3o de T\u00edtulos e C\u00e2mbios com 10 e da NASA com nove. Outras ag\u00eancias de destaque incluem a FDA, USGS, USPS, SSA, USPTO, BLS e US Customs and Border Protection.<\/span><\/p>\n Existem provas generalizadas de parcialidade nalguns destes sistemas. Os algoritmos de cuidados de sa\u00fade nos EUA foram considerados menos propensos a encaminhar pacientes negros<\/a> para cuidados adicionais, e ferramentas de policiamento preditivo como COMPAS<\/a> t\u00eam sido acusados de preconceitos raciais na previs\u00e3o do risco de reincid\u00eancia (reincid\u00eancia) e nas senten\u00e7as.\u00a0<\/span><\/p>\n Um recente <\/span>Investiga\u00e7\u00e3o do Guardian<\/span><\/a> no sector p\u00fablico do Reino Unido concluiu que os algoritmos utilizados em \u00e1reas como a seguran\u00e7a social, a imigra\u00e7\u00e3o e a justi\u00e7a penal foram implicados em casos de utiliza\u00e7\u00e3o indevida e discrimina\u00e7\u00e3o.\u00a0<\/span><\/p>\n Nomeadamente, o Departamento do Trabalho e Pens\u00f5es (DWP) foi criticado por um algoritmo que alegadamente conduziu a suspens\u00f5es indevidas de subs\u00eddios e a ferramenta de reconhecimento facial da Pol\u00edcia Metropolitana revelou taxas de erro mais elevadas para rostos negros.<\/span><\/p>\n Outro ramo da algocracia \u00e9 a justi\u00e7a e a aplica\u00e7\u00e3o da lei influenciadas por algoritmos ou IA.<\/span><\/p>\n Para al\u00e9m do sistema COMPAS dos EUA, na Austr\u00e1lia, o \"Software \"Split Up<\/a> ajuda os ju\u00edzes a determinar a divis\u00e3o de bens durante os processos de div\u00f3rcio, e a China foi pioneira na cria\u00e7\u00e3o de tribunais na Internet, com um juiz virtual de IA a ajudar nas tarefas b\u00e1sicas de lit\u00edgio.\u00a0<\/span><\/p>\n A experi\u00eancia do governo neerland\u00eas com o <\/span>Indica\u00e7\u00e3o de risco do sistema (SyRI)<\/span><\/a> concebido para detetar fraudes na seguran\u00e7a social, enfrentou desafios legais devido aos seus potenciais efeitos discriminat\u00f3rios e \u00e0 falta de transpar\u00eancia, o que levou a uma decis\u00e3o judicial hist\u00f3rica contra a sua utiliza\u00e7\u00e3o.<\/span><\/p>\n A ado\u00e7\u00e3o pelo Brasil da tecnologia de reconhecimento facial em S\u00e3o Paulo atrav\u00e9s do <\/span>Projeto Smart Sampa<\/span><\/a> e outras formas de policiamento preditivo, incluindo v\u00e1rios programas nos EUA, indicam o potencial da tecnologia para influenciar a governa\u00e7\u00e3o das liberdades fundamentais das pessoas.\u00a0<\/span><\/p>\n O software Gotham da Palantir tem sido utilizado pelo Departamento de Pol\u00edcia de Nova Orle\u00e3es desde 2012 para o policiamento preditivo, e as itera\u00e7\u00f5es mais recentes <\/span>foram declarados um fracasso<\/span><\/a>A pol\u00edcia tem um papel importante a desempenhar, infligindo preconceitos \u00e0s comunidades marginalizadas e desperdi\u00e7ando recursos policiais.\u00a0<\/span><\/p>\n Al\u00e9m disso, os rob\u00f4s jur\u00eddicos est\u00e3o a assumir cada vez mais tarefas tradicionalmente realizadas por assistentes jur\u00eddicos, com tecnologias como a ROSS Intelligence a ajudar os escrit\u00f3rios de advogados dos EUA na investiga\u00e7\u00e3o jur\u00eddica.\u00a0<\/span><\/p>\n Recentemente, houve relatos de advogados que utilizaram a IA generativa, incluindo o ChatGPT, para ajudar na investiga\u00e7\u00e3o de casos - incluindo um <\/span>incidente de grande visibilidade<\/span><\/a> em que um advogado apresentou ac\u00e7\u00f5es judiciais com casos fabricados por IA.\u00a0<\/span><\/p>\n A substitui\u00e7\u00e3o total dos pol\u00edticos por IA tem sido objeto de muita especula\u00e7\u00e3o, incluindo num podcast recente de Joe Rogan e do CEO da OpenAI, Sam Altman. <\/span><\/p>\n Joe Rogan aborda o tema, afirmando que a IA pode revelar-se mais objetivamente capaz de beneficiar as necessidades espec\u00edficas das pessoas, independentemente de influ\u00eancias financeiras e pol\u00edticas. <\/span><\/p>\n Altman concorda que o processo convencional de tomada de decis\u00f5es governamentais se baseia frequentemente em motivos corruptos, mas n\u00e3o se sente \u00e0 vontade para confiar demasiado \u00e0 IA decis\u00f5es importantes para a sociedade.\u00a0<\/span><\/p>\nOrigens da algocracia<\/span><\/h2>\n
\n
![\"CyberSyn\"](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/11\/CyberSyn-render-106-1024x576.png\")
\n
Experimenta\u00e7\u00e3o do sector p\u00fablico com IA e algoritmos<\/span><\/h2>\n
Justi\u00e7a por IA e algoritmo<\/span><\/h2>\n
![\"IA](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/10\/images4.persgroep.net_.jpg\")
![\"S\u00e3o](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/10\/surveillance.png\")
Pol\u00edticos com IA candidatam-se a cargos p\u00fablicos<\/span><\/h2>\n