Sj\u00e4lva termen \"algokrati\" d\u00f6k upp i den akademiska debatten omkring 2013, men exempel p\u00e5 algoritmisk styrning g\u00e5r tillbaka till 60- och 70-talen. <\/span><\/p>\n Algoritmisk bearbetning och maskininl\u00e4rning eller AI \u00e4r inte samma sak, men de representerar ett kontinuum av tekniker.\u00a0<\/span><\/p>\n K\u00e4rnfr\u00e5gorna i algoritmisk styrning - att \u00f6verl\u00e5ta m\u00e4nsklig kontroll till datoriserade beslutssystem - har utvecklats fr\u00e5n enklare matematiska simuleringar till dagens avancerade sj\u00e4lvl\u00e4rande modeller. <\/span><\/p>\n \u00c4r det n\u00e5got vi b\u00f6r v\u00e4lkomna eller vara f\u00f6rsiktiga med?<\/span><\/p>\n Algoritmisk styrning f\u00f6ddes ur en tid av snabb digitalisering - 1960-talet.\u00a0<\/span><\/p>\n H\u00e4r \u00e4r en kort tidslinje \u00f6ver hur algoritmiskt och AI-integrerat beslutsfattande har f\u00f6rekommit i offentliga och statliga projekt:\u00a0<\/span><\/p>\n Ett av de mest fascinerande projekten \u00e4r <\/span>Cybersyn<\/span><\/a>, i Chile, som p\u00e5gick mellan 1971 och 1973. Trots sin korta livsl\u00e4ngd fungerar projektet fortfarande som ett exempel p\u00e5 hur samh\u00e4llet - och m\u00e4nniskor - framg\u00e5ngsrikt kan modelleras av datorsystem. <\/span><\/p>\n Mekaniken bakom \u00e4r fascinerande, med en f\u00f6raning om Salvador Allendes CIA-st\u00f6dda fall och Chiles utveckling in i den f\u00f6r\u00f6dande Pinochet-eran.\u00a0<\/span><\/p>\n K\u00e4rnan i Cybersyn-projektet bestod av fyra huvudkomponenter:<\/span><\/p>\n Project Cybersyn visade sin potential under en nationell strejk bland lastbilschauff\u00f6rer 1972, d\u00e4r regeringen kunde f\u00f6rlita sig p\u00e5 realtidsdata f\u00f6r att mildra strejkens effekter. Telexn\u00e4tverket var avg\u00f6rande f\u00f6r att uppr\u00e4tth\u00e5lla kommunikationen och samordna resursf\u00f6rdelningen under krisen.<\/span><\/p>\n Projektet fick dock ett abrupt slut efter milit\u00e4rkuppen den 11 september 1973. Opsroom och det bredare systemet monterades ned och Cybersyn f\u00f6rblev en ofullbordad vision av ett tekniskt avancerat och potentiellt socialt ansvarsfullt ekonomiskt styrsystem. Cybersyns politik \u00e4r mycket omdiskuterad, och det st\u00e5r som ett exempel p\u00e5 innovation under socialismen, vilket det har v\u00f6rdats f\u00f6r.<\/span><\/p>\n Det finns flera andra tidiga exempel p\u00e5 algokrati, bland annat LEGOL- och TAXMAN-projekten p\u00e5 1970-talet, som banade v\u00e4g f\u00f6r automatisering av regelbaserade processer inom skattef\u00f6rvaltningar. Under de f\u00f6ljande \u00e5rtiondena utvecklades dessa tekniker, och under 2000-talet blev \u00f6vervakningsapplikationer alltmer framtr\u00e4dande.<\/span><\/p>\n \u00c5r 2006 skrev A. Aneesh i sin bok \"<\/span>Virtuell migration<\/span><\/a>,\" introducerade begreppet algokrati och unders\u00f6kte hur informationsteknik kan begr\u00e4nsa m\u00e4nniskors deltagande i offentligt beslutsfattande, vilket skiljer det fr\u00e5n byr\u00e5kratiska och marknadsbaserade system.<\/span><\/p>\n \u00c5r 2013 myntade Tim O'Reilly, grundare av och VD f\u00f6r O'Reilly Media Inc, begreppet \"algoritmisk reglering\" och formulerade en vision f\u00f6r styrning som utnyttjar kraften i big data och algoritmer f\u00f6r att uppn\u00e5 specifika r\u00e4ttsliga resultat, och efterlyste ett paradigmskifte mot en mer effektiv och ansvarsfull styrning.<\/span><\/p>\n Mer nyligen, under 2017, genomf\u00f6rde Ukrainas justitieministerium experimentella <\/span>blockkedjebaserade statliga auktioner<\/span><\/a> (aka. offentlig upphandling), vilket visar p\u00e5 potentialen hos dessa tekniker f\u00f6r att \u00f6ka transparensen och bek\u00e4mpa korruption i statliga transaktioner.<\/span><\/p>\n Och det tar oss \u00e4nda fram till den spirande eran med generativ AI och dagens avancerade gr\u00e4nsmodeller.<\/p>\n Den offentliga sektorn och statliga myndigheter har experimenterat mycket med algoritmiskt beslutsfattande, AI och maskininl\u00e4rning under de senaste \u00e5ren.\u00a0<\/span><\/p>\n En omfattande studie <\/span>som genomf\u00f6rdes av Stanford University<\/span><\/a> visade att AI- och ML-verktyg anv\u00e4nds i stor utstr\u00e4ckning inom den federala sektorn i USA, d\u00e4r 45% av myndigheterna kommer att experimentera med dessa tekniker fram till 2020.\u00a0<\/span><\/p>\n Palantir Technologies<\/span><\/a> \u00e4r en stor kommersiell leverant\u00f6r inom detta omr\u00e5de och bidrar till de kvarvarande applikationerna.<\/span><\/p>\n Om man tittar p\u00e5 specifika byr\u00e5er leder Office of Justice Programs med 12 anv\u00e4ndningsfall, f\u00f6ljt av Securities and Exchange Commission med 10 och NASA med nio. Andra framtr\u00e4dande myndigheter \u00e4r FDA, USGS, USPS, SSA, USPTO, BLS och US Customs and Border Protection.<\/span><\/p>\n Det finns omfattande bevis f\u00f6r partiskhet i vissa av dessa system. Algoritmer f\u00f6r h\u00e4lso- och sjukv\u00e5rd i USA visade sig vara mindre ben\u00e4gna att remittera svarta patienter<\/a> f\u00f6r ytterligare v\u00e5rd, och prediktiva polisverktyg som COMPAS<\/a> har anklagats f\u00f6r rasistiska f\u00f6rdomar n\u00e4r det g\u00e4ller att f\u00f6rutse risken f\u00f6r \u00e5terfall i brott (recidivism) och utd\u00f6mande av straff.\u00a0<\/span><\/p>\n En ny <\/span>Guardians unders\u00f6kning<\/span><\/a> i den offentliga sektorn i Storbritannien visade att algoritmer som anv\u00e4nds inom omr\u00e5den som v\u00e4lf\u00e4rd, invandring och straffr\u00e4tt har varit inblandade i fall av missbruk och diskriminering.\u00a0<\/span><\/p>\n Bland annat har Department for Work and Pensions (DWP) f\u00e5tt kritik f\u00f6r en algoritm som p\u00e5st\u00e5s ha lett till felaktiga indragningar av f\u00f6rm\u00e5ner, och Metropolitan Police's ansiktsigenk\u00e4nningsverktyg visade h\u00f6gre felfrekvenser f\u00f6r svarta ansikten.<\/span><\/p>\n En annan gren av algokratin \u00e4r algoritmiskt eller AI-influerat r\u00e4ttsv\u00e4sende och brottsbek\u00e4mpning.<\/span><\/p>\n Ut\u00f6ver det amerikanska COMPAS-systemet finns i Australien \u00e4ven \"Split Up\" programvara<\/a> hj\u00e4lper domare att fastst\u00e4lla tillg\u00e5ngsf\u00f6rdelningen vid skilsm\u00e4ssor, och Kina har varit f\u00f6rst med att inr\u00e4tta internetdomstolar, d\u00e4r en virtuell AI-domare hj\u00e4lper till med grundl\u00e4ggande uppgifter i samband med tvister.\u00a0<\/span><\/p>\n Den nederl\u00e4ndska regeringens erfarenhet av <\/span>Systemriskindikation (SyRI)<\/span><\/a> algoritm, som utformats f\u00f6r att uppt\u00e4cka bedr\u00e4gerier inom socialv\u00e5rden, m\u00f6tte r\u00e4ttsliga utmaningar p\u00e5 grund av dess potentiella diskriminerande effekter och brist p\u00e5 transparens, vilket ledde till ett banbrytande domstolsbeslut mot dess anv\u00e4ndning.<\/span><\/p>\n Brasiliens inf\u00f6rande av teknik f\u00f6r ansiktsigenk\u00e4nning i S\u00e3o Paulo genom <\/span>Smart Sampa-projektet<\/span><\/a> och andra former av prediktivt polisarbete, inklusive flera program i USA, visar p\u00e5 teknikens potential att p\u00e5verka styrningen av m\u00e4nniskors grundl\u00e4ggande friheter.\u00a0<\/span><\/p>\n Palantirs Gotham-programvara har anv\u00e4nts av New Orleans Police Department sedan 2012 f\u00f6r prediktivt polisarbete, och nyare iterationer <\/span>har f\u00f6rklarats vara ett misslyckande<\/span><\/a>vilket leder till f\u00f6rdomar mot marginaliserade grupper och sl\u00f6seri med polisens resurser.\u00a0<\/span><\/p>\n Dessutom tar law-bots i allt h\u00f6gre grad p\u00e5 sig uppgifter som traditionellt sk\u00f6ts av paralegals, med teknik som ROSS Intelligence som hj\u00e4lper amerikanska advokatbyr\u00e5er med juridisk forskning.\u00a0<\/span><\/p>\n Det har nyligen rapporterats om advokater som anv\u00e4nder generativ AI, inklusive ChatGPT, f\u00f6r att hj\u00e4lpa till med fallstudier - inklusive en <\/span>h\u00f6gprofilerad incident<\/span><\/a> d\u00e4r en advokat l\u00e4mnade in r\u00e4ttsliga anspr\u00e5k med AI-fabricerade fall.\u00a0<\/span><\/p>\n Att helt ers\u00e4tta politiker med AI har varit f\u00f6rem\u00e5l f\u00f6r m\u00e5nga spekulationer, bland annat i en podcast nyligen av Joe Rogan och OpenAI:s VD Sam Altman. <\/span><\/p>\n Joe Rogan tar upp \u00e4mnet och s\u00e4ger att AI skulle kunna visa sig vara mer objektivt kapabelt att gynna m\u00e4nniskors specifika behov som \u00e4r frist\u00e5ende fr\u00e5n finansiella och politiska influenser. <\/span><\/p>\n Altman h\u00e5ller med om att konventionellt statligt beslutsfattande ofta grundas p\u00e5 korrupta motiv, men \u00e4r inte bekv\u00e4m med att \u00f6verl\u00e5ta viktiga samh\u00e4llsbeslut till AI.\u00a0<\/span><\/p>\nAlgokratins ursprung<\/span><\/h2>\n
\n
![\"CyberSyn\"](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/11\/CyberSyn-render-106-1024x576.png\")
\n
Offentlig sektor experimenterar med AI och algoritmer<\/span><\/h2>\n
R\u00e4ttvisa genom AI och algoritm<\/span><\/h2>\n
![\"Holl\u00e4ndsk](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/10\/images4.persgroep.net_.jpg\")
![\"Sao](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/10\/surveillance.png\")
AI-politiker st\u00e4ller upp i valet<\/span><\/h2>\n