Mentre i sistemi algoritmici e di apprendimento automatico iniziano a proliferare nei settori governativi e pubblici, potremmo essere diretti verso una forma di governance per algoritmi - o una "algocrazia"?
L'algograzia - una forma di governance basata su algoritmi e collegata alla tecnocrazia e alla cybercrazia - applica sistematicamente l'IA, la blockchain e gli algoritmi a vari aspetti della legge e della società.
Il termine stesso "algocrazia" è emerso nel discorso accademico intorno al 2013, ma esempi di governance algoritmica risalgono agli anni '60 e '70.
Sebbene l'elaborazione algoritmica e l'apprendimento automatico o l'IA non siano la stessa cosa, rappresentano un continuum di tecnologie.
I temi centrali della governance algoritmica, ovvero la rinuncia al controllo umano a favore di sistemi decisionali computerizzati, sono passati da semplici simulazioni matematiche agli attuali modelli avanzati di autoapprendimento.
È qualcosa che dovremmo accogliere con favore o di cui dovremmo diffidare?
Origini dell'algocrazia
La governance algoritmica è nata in un'epoca di rapida digitalizzazione, gli anni Sessanta.
Ecco una breve cronologia di come il processo decisionale algoritmico e integrato con l'IA sia stato inserito in progetti pubblici e governativi:
- 1962: Alexander Kharkevich propone una rete informatica per la governance algoritmica a Mosca.
- 1971-1973: Il progetto Cybersyn in Cile cerca di gestire l'economia nazionale.
- 1970s: Sviluppo dei primi sistemi di ragionamento giuridico e di interpretazione del diritto tributario, come il progetto LEGOL del Regno Unito e il progetto TAXMAN degli Stati Uniti.
- 1993: Pubblicazione di "Towards a New Socialism" (Verso un nuovo socialismo), in cui si discute del potenziale di un'economia pianificata democraticamente e costruita sulla moderna tecnologia informatica.
- 2000s: Gli algoritmi iniziano a essere utilizzati per l'analisi dei video di sorveglianza.
- 2006: A. Aneesh introduce il concetto di algocrazia, discutendo l'impatto delle tecnologie informatiche sul processo decisionale pubblico.
- 2013: Tim O'Reilly ha coniato il termine "regolamentazione algoritmica", sostenendo l'uso di big data e algoritmi nel governo.
- 2017: Il Ministero della Giustizia ucraino conduce aste governative sperimentali utilizzando la blockchain.
- Oggi: Esistono numerosi esempi di sistemi di apprendimento automatico utilizzati nei settori pubblico e governativo, alcuni dei quali si sono dimostrati in grado di prendere decisioni di alto livello che cambiano la vita con una minima supervisione umana.
Uno dei progetti più affascinanti è Cybersynin Cile, che si è svolto dal 1971 al 1973. Nonostante la sua breve durata, il progetto è ancora un esempio di come la società - e le persone - possano essere modellate con successo dai sistemi informatici.
I meccanismi che ne sono alla base sono affascinanti, e si prefigurano con la caduta di Salvador Allende, sostenuta dalla CIA, e la progressione del Cile verso la devastante era di Pinochet.
Al centro del Progetto Cybersyn c'erano quattro componenti principali:
- Simulatore economico: Questo modulo è stato progettato per modellare l'economia cilena, consentendo ai funzionari governativi di simulare i risultati di varie decisioni economiche.
- Software per le prestazioni in fabbrica: È stato sviluppato un software personalizzato per monitorare e valutare le prestazioni della fabbrica, concentrandosi su indicatori chiave come i livelli di produzione e le forniture di materie prime.
- Sala operativa (Opsroom): Era il centro fisico di Cybersyn, dove venivano raccolti, elaborati e visualizzati i dati economici. La sala operativa consentiva ai responsabili delle decisioni di assimilare rapidamente informazioni complesse e di compiere scelte informate.
- Rete nazionale di telex: Questi erano collegati a un computer mainframe e formavano una rete di comunicazione (denominata "Cybernet") tra le imprese statali. Questa rete facilitava la trasmissione in tempo reale dei dati economici al governo centrale.
Il progetto Cybersyn ha dimostrato il suo potenziale durante uno sciopero nazionale dei camionisti nel 1972, in cui il governo ha potuto contare su dati in tempo reale per mitigare l'impatto dello sciopero. La rete telex è stata fondamentale per mantenere le comunicazioni e coordinare la distribuzione delle risorse durante la crisi.
Tuttavia, il progetto si concluse bruscamente dopo il colpo di Stato militare dell'11 settembre 1973. La sala operativa e il sistema più ampio furono smantellati e Cybersyn rimase una visione incompiuta di un sistema di gestione economica tecnologicamente avanzato e potenzialmente responsabile dal punto di vista sociale. La politica di Cybersyn è molto discussa, in quanto rappresenta un esempio di innovazione sotto il socialismo, per il quale è stato venerato.
Esistono numerosi altri primi esempi di algocrazia, tra cui i progetti LEGOL e TAXMAN negli anni '70, che hanno posto le basi per l'automazione dei processi basati su regole nelle agenzie fiscali. I decenni successivi hanno visto l'evoluzione di queste tecnologie, con le applicazioni di sorveglianza che sono diventate importanti negli anni 2000.
Nel 2006, A. Aneesh, nel suo libro "Migrazione virtualeha introdotto il concetto di algocrazia, esplorando come le tecnologie dell'informazione possano limitare la partecipazione umana al processo decisionale pubblico, distinguendola dai sistemi burocratici e di mercato.
Nel 2013, Tim O'Reilly, fondatore e CEO di O'Reilly Media Inc. ha coniato il termine "regolamentazione algoritmica", articolando una visione della governance che sfrutta la potenza dei big data e degli algoritmi per ottenere risultati legali specifici, chiedendo un cambiamento di paradigma verso una governance più efficiente e responsabile.
Più di recente, nel 2017, il Ministero della Giustizia ucraino ha condotto una sperimentazione aste governative basate su blockchain (ovvero le gare d'appalto del settore pubblico), mostrando il potenziale di queste tecnologie per migliorare la trasparenza e combattere la corruzione nelle transazioni governative.
E questo ci porta fino all'era fiorente dell'IA generativa e ai modelli di frontiera avanzati di oggi.
Sperimentazione del settore pubblico con l'IA e gli algoritmi
Negli ultimi anni il settore pubblico e le agenzie governative hanno sperimentato in modo considerevole il processo decisionale algoritmico, l'IA e l'apprendimento automatico.
Uno studio completo condotto dall'Università di Stanford ha rivelato l'adozione significativa di strumenti di IA e ML nel settore federale degli Stati Uniti, con 45% di agenzie che sperimenteranno queste tecnologie entro il 2020.
Tecnologie Palantir è un importante fornitore commerciale in questo spazio, che contribuisce alle applicazioni residue.
Per quanto riguarda le agenzie specifiche, l'Office of Justice Programs è in testa con 12 casi d'uso, seguito dalla Securities and Exchange Commission con 10 e dalla NASA con nove. Altre agenzie importanti sono FDA, USGS, USPS, SSA, USPTO, BLS e US Customs and Border Protection.
Esistono prove diffuse di parzialità in alcuni di questi sistemi. Gli algoritmi sanitari negli Stati Uniti sono risultati essere meno propensi a indirizzare i pazienti di colore per un'assistenza supplementare, e strumenti di polizia predittiva quali COMPAS sono stati accusati di pregiudizi razziali nella previsione del rischio di recidiva (recidiva) e della condanna.
Un recente Indagine del Guardian nel settore pubblico del Regno Unito ha rilevato che gli algoritmi utilizzati in settori come il welfare, l'immigrazione e la giustizia penale sono stati coinvolti in casi di abuso e discriminazione.
In particolare, il Dipartimento per il lavoro e le pensioni (DWP) è stato criticato per un algoritmo che avrebbe portato a sospensioni errate dei sussidi e lo strumento di riconoscimento facciale della polizia metropolitana ha mostrato tassi di errore più elevati per i volti neri.
Giustizia tramite IA e algoritmi
Un'altra branca dell'algocrazia è quella della giustizia e delle forze dell'ordine influenzate dagli algoritmi o dall'IA.
Oltre al sistema statunitense COMPAS, in Australia, il sistema "Software "Split Up aiuta i giudici a determinare la divisione dei beni durante i procedimenti di divorzio e la Cina è stata pioniera nell'istituzione di tribunali via Internet, con un giudice virtuale AI che assiste nelle attività di base del contenzioso.
L'esperienza del governo olandese con il Indicazione di rischio del sistema (SyRI) L'algoritmo, progettato per rilevare le frodi sociali, ha affrontato sfide legali a causa dei suoi potenziali effetti discriminatori e della mancanza di trasparenza, portando a una sentenza storica del tribunale contro il suo utilizzo.
L'adozione da parte del Brasile della tecnologia di riconoscimento facciale a São Paulo attraverso la Progetto Smart Sampa e altre forme di polizia predittiva, compresi diversi programmi negli Stati Uniti, indica il potenziale della tecnologia nell'influenzare la governance delle libertà fondamentali delle persone.
Il software Gotham di Palantir è stato utilizzato dal Dipartimento di Polizia di New Orleans dal 2012 per la polizia predittiva, e le nuove versioni sono state utilizzate per la gestione del traffico. sono stati dichiarati un fallimentoinfliggendo pregiudizi alle comunità emarginate e sprecando le risorse della polizia.
Inoltre, i bot legali stanno assumendo sempre più compiti tradizionalmente svolti dai paralegali, con tecnologie come ROSS Intelligence che assistono gli studi legali statunitensi nelle ricerche legali.
Recentemente sono stati segnalati casi di avvocati che hanno utilizzato l'IA generativa, tra cui il ChatGPT, per assistere nella ricerca dei casi, tra cui una incidente di alto profilo in cui un avvocato ha presentato richieste legali con casi creati dall'intelligenza artificiale.
I politici dell'intelligenza artificiale si candidano
La completa sostituzione dei politici con l'IA è stata oggetto di molte speculazioni, anche in un recente podcast di Joe Rogan e del CEO di OpenAI Sam Altman.
Joe Rogan affronta l'argomento, affermando che l'IA potrebbe dimostrarsi più oggettivamente in grado di soddisfare le esigenze specifiche delle persone, indipendentemente dalle influenze finanziarie e politiche.
Altman concorda sul fatto che il processo decisionale del governo convenzionale è spesso fondato su motivi di corruzione, ma non si sente a suo agio nell'affidare alle IA decisioni importanti per la società.
Nel 2018, Michihito Matsuda si è candidato a sindaco nell'area della città di Tokyo di Tama come proxy umano per un programma di intelligenza artificialeche ha mostrato un approccio innovativo alla candidatura politica. Nonostante la mancata vittoria, questa iniziativa ha evidenziato il potenziale dell'intelligenza artificiale in politica.
Cesar Hidalgo ha introdotto il concetto di democrazia aumentata nel 2018, proponendo una legislazione attraverso i gemelli digitali degli individui. Hidalgo ha detto, "La democrazia può essere aggiornata o migliorata utilizzando la tecnologia e le nuove idee, ne sono assolutamente convinto".
Nel 2022, "Leader Lars," un chatbot, è stato candidato alle elezioni parlamentari danesi, in rappresentanza del Partito Sintetico.
A differenza dei suoi predecessori, Leader Lars ha guidato un partito politico e si è impegnato in discussioni politiche critiche senza pretendere di essere obiettivo, aggiungendo una nuova dimensione al concetto di politico virtuale.
Vantaggi e critiche dell'algocrazia
I vantaggi di Algocracy rientrano tipicamente nell'ambito dell'"efficienza". L'utilizzo dell'IA e degli algoritmi per prendere decisioni complesse è più rapido rispetto all'affidamento agli esseri umani.
Ciò è particolarmente vantaggioso in aree complesse del settore pubblico, già afflitte da ritardi.
La tentazione di sperimentare il processo decisionale basato sull'IA è quindi immensa, e per questo ci sono così tanti esempi notevoli nel settore pubblico in dipartimenti con risorse limitate come la legge, la giustizia, l'economia e il welfare.
Ottenere fiducia in questi strumenti è una sfida, poiché i governi non vogliono che i loro modelli proprietari siano esposti, in quanto ciò potrebbe lasciare i dati sensibili esposti a minacce. Per questo motivo, molti di questi progetti sono tenuti altamente segreti, il che contribuisce ad aumentarne i rischi.
Lo storico e autore di bestseller come "Sapiens" e "Homo Deus", Yuval Noah Harari, ha sottolineato che il conflitto in corso tra regimi democratici e autoritari potrebbe essere visto come una battaglia tra due sistemi di elaborazione dei dati, con l'IA e gli algoritmi che potrebbero far pendere la bilancia verso la centralizzazione e il controllo.
Harari sottolinea che la capacità dell'IA di manipolare il linguaggio e generare contenuti persuasivi potrebbe compromettere la democrazia. La preoccupazione non è solo che l'IA produca informazioni distorte o false, ma anche la sua capacità di imitare la conversazione umana e di influenzare l'opinione pubblica senza essere individuata.
Harari descrive inoltre come l'IA potrebbe creare delle camere d'eco, che i regimi autoritari potrebbero sfruttare in modo più efficace rispetto alle democrazie. I governi autoritari, grazie al loro controllo centralizzato sui dati e alla minore preoccupazione per la privacy o i vincoli etici, potrebbero impiegare l'IA in modo più aggressivo per sorvegliare e manipolare l'opinione pubblica.
Esistono metodi per ovviare a questo problema. Per esempio, la startup di AI Anthropic ha dedicato una notevole ricerca a "IA costituzionalee, più specificamente, "AI collettiva costituzionaleche alimenta le opinioni delle persone in un modello di intelligenza artificiale per "ricavare in crowdsourcing" i propri valori dalla popolazione generale.
Queste tecniche potrebbero informare democraticamente la governance dell'IA, garantendo che i modelli siano guidati dalle opinioni del pubblico piuttosto che da quelle dei soli creatori.
L'opinione pubblica sull'algocrazia
In termini critici, cosa pensa la maggioranza delle persone di queste applicazioni dell'IA?
Queste voci sono più indicative di ciò che la società prova realmente nell'essere governata in tutto o in parte da sistemi algoritmici o di intelligenza artificiale. E non dimentichiamo che il pubblico finanzia questi progetti attraverso le tasse.
Un sondaggio del 2019 condotto da Centro per la governance del cambiamento dell'Università IE in Spagna ha rivelato livelli diversi di sostegno pubblico nei vari Paesi europei per consentire all'IA di prendere decisioni importanti a livello nazionale. I Paesi Bassi hanno mostrato l'approvazione più alta con 43%, mentre il Portogallo ha registrato il livello più basso con 19%.
I ricercatori hanno scoperto che la disillusione nei confronti dei leader politici o dei fornitori di sicurezza può aumentare la propensione del pubblico verso gli agenti artificiali, percepiti come più affidabili.
Col tempo, i modelli di IA potrebbero essere in grado di fungere da calibratore per un'azione governativa socialmente responsabile, raccogliendo le opinioni del pubblico e impregnandole nei modelli di IA per annullare alcune delle manifestazioni meno affidabili della democrazia tradizionale.
Se eseguite correttamente, queste tecniche potrebbero persino rendere i governi trasparenti e responsabili nei confronti dei desideri democratici del popolo.
Tuttavia, ad oggi, la maggior parte degli esempi di algocrazia illustra un processo decisionale statale piuttosto che democratico.
