De term \"algocratie\" zelf dook op in het academisch discours rond 2013, maar voorbeelden van algoritmisch bestuur dateren al van de jaren 60 en 70 van de vorige eeuw. <\/span><\/p>\n Hoewel algoritmische verwerking en machine learning of AI niet hetzelfde zijn, vormen ze wel een continu\u00fcm van technologie\u00ebn.\u00a0<\/span><\/p>\n De kernthema's van algoritmisch bestuur - het overdragen van menselijke controle aan geautomatiseerde besluitvormingssystemen - hebben zich ontwikkeld van eenvoudige wiskundige simulaties tot de geavanceerde zelflerende modellen van vandaag. <\/span><\/p>\n Is het iets waar we blij mee moeten zijn of juist op onze hoede?<\/span><\/p>\n Algoritmisch bestuur werd geboren in een tijdperk van snelle digitalisering - de jaren 1960.\u00a0<\/span><\/p>\n Hier volgt een korte tijdlijn van algoritmische en AI-ge\u00efntegreerde besluitvorming in openbare en overheidsprojecten:\u00a0<\/span><\/p>\n Een van de meest fascinerende projecten is <\/span>Cybersyn<\/span><\/a>in Chili, dat liep van 1971 tot 1973. Ondanks de korte levensduur dient het project nog steeds als voorbeeld van hoe de samenleving - en mensen - succesvol gemodelleerd kunnen worden door computersystemen. <\/span><\/p>\n De mechanismen erachter zijn fascinerend, voorafgegaan door de door de CIA gesteunde val van Salvador Allende en de overgang van Chili naar het verwoestende Pinochet-tijdperk.\u00a0<\/span><\/p>\n De kern van Project Cybersyn bestond uit vier hoofdcomponenten:<\/span><\/p>\n Project Cybersyn bewees zijn potentieel tijdens een nationale truckersstaking in 1972, waarbij de overheid kon vertrouwen op real-time gegevens om de gevolgen van de staking te beperken. Het telexnetwerk was cruciaal voor het onderhouden van de communicatie en het co\u00f6rdineren van de distributie van middelen tijdens de crisis.<\/span><\/p>\n Het project eindigde echter abrupt na de militaire coup van 11 september 1973. De Opsroom en het bredere systeem werden ontmanteld en Cybersyn bleef een onvoltooide visie van een technologisch geavanceerd en potentieel sociaal verantwoord economisch beheerssysteem. Over de politiek van Cybersyn wordt veel gedebatteerd, maar het staat bekend als een voorbeeld van innovatie onder het socialisme, waarvoor het wordt vereerd.<\/span><\/p>\n Er zijn verschillende andere vroege voorbeelden van algocratie, waaronder de LEGOL- en TAXMAN-projecten in de jaren 1970, die de weg vrijmaakten voor de automatisering van op regels gebaseerde processen in belastingdiensten. De daaropvolgende decennia waren getuige van de evolutie van deze technologie\u00ebn, met bewakingstoepassingen die prominent werden in de jaren 2000.<\/span><\/p>\n In 2006 schreef A. Aneesh in zijn boek \"<\/span>Virtuele migratie<\/span><\/a>introduceerde het concept algocratie en onderzocht hoe informatietechnologie\u00ebn de menselijke deelname aan publieke besluitvorming zou kunnen beperken, waardoor het zich onderscheidt van bureaucratische en marktgebaseerde systemen.<\/span><\/p>\n In 2013 bedacht Tim O'Reilly, oprichter en CEO van O'Reilly Media Inc., de term \"algoritmische regulering\". Hij verwoordde een visie voor bestuur dat de kracht van big data en algoritmen inzet om specifieke juridische resultaten te bereiken en riep op tot een paradigmaverschuiving naar effici\u00ebnter en verantwoordelijk bestuur.<\/span><\/p>\n Meer recentelijk, in 2017, voerde het Oekra\u00efense ministerie van Justitie een experimenteel <\/span>op blockchain gebaseerde overheidsveilingen<\/span><\/a> (ook bekend als openbare aanbestedingen), waarbij het potentieel van deze technologie\u00ebn om de transparantie te verbeteren en corruptie bij overheidstransacties tegen te gaan, wordt getoond.<\/span><\/p>\n En dat brengt ons bij het ontluikende tijdperk van generatieve AI en de geavanceerde grensmodellen van vandaag.<\/p>\n Publieke sector en overheidsinstellingen hebben de afgelopen jaren flink ge\u00ebxperimenteerd met algoritmische besluitvorming, AI en machine learning.\u00a0<\/span><\/p>\n Een uitgebreid onderzoek <\/span>uitgevoerd door de universiteit van Stanford<\/span><\/a> onthulde de significante toepassing van AI- en ML-tools in de Amerikaanse federale sector, waarbij 45% van de agentschappen tegen 2020 met deze technologie\u00ebn zal experimenteren.\u00a0<\/span><\/p>\n Palantir Technologie\u00ebn<\/span><\/a> is een belangrijke commerci\u00eble leverancier in deze ruimte, die bijdraagt aan de resterende toepassingen.<\/span><\/p>\n Kijken we naar specifieke agentschappen, dan staat het Office of Justice Programs aan de leiding met 12 use cases, gevolgd door de Securities and Exchange Commission met 10 en NASA met negen. Andere prominente instanties zijn de FDA, USGS, USPS, SSA, USPTO, BLS en US Customs and Border Protection.<\/span><\/p>\n Er is wijdverspreid bewijs van vertekening bij sommige van deze systemen. Algoritmen in de gezondheidszorg in de VS bleken minder geneigd om zwarte pati\u00ebnten door te verwijzen<\/a> voor extra zorg en voorspellende politietools zoals COMPAS<\/a> zijn beschuldigd van raciale vooroordelen bij het voorspellen van recidivegevaar en veroordeling.\u00a0<\/span><\/p>\n Een recente <\/span>Onderzoek Guardian<\/span><\/a> In een onderzoek naar de publieke sector in het Verenigd Koninkrijk werd ontdekt dat algoritmen die worden gebruikt op gebieden als welzijn, immigratie en strafrecht betrokken zijn bij misbruik en discriminatie.\u00a0<\/span><\/p>\n Met name het Department for Work and Pensions (DWP) kreeg kritiek te verduren vanwege een algoritme dat naar verluidt leidde tot onterechte opschortingen van uitkeringen, en de gezichtsherkenningstool van de Metropolitan Police vertoonde hogere foutpercentages voor zwarte gezichten.<\/span><\/p>\n Een andere tak van algocratie is algoritmische of AI-be\u00efnvloede rechtspraak en wetshandhaving.<\/span><\/p>\n Naast het COMPAS-systeem in de VS is in Australi\u00eb het \"Software \"Split Up<\/a> helpt rechters bij het bepalen van de verdeling van bezittingen tijdens echtscheidingsprocedures en China heeft baanbrekend werk verricht met de oprichting van internetrechtbanken, waarbij een virtuele AI-rechter helpt bij basistaken in rechtszaken.\u00a0<\/span><\/p>\n De ervaring van de Nederlandse overheid met de <\/span>Systeem Risico Indicatie (SyRI)<\/span><\/a> algoritme, ontworpen om fraude met sociale uitkeringen op te sporen, werd juridisch aangevochten vanwege de mogelijk discriminerende effecten en het gebrek aan transparantie, wat leidde tot een baanbrekende rechterlijke uitspraak tegen het gebruik ervan.<\/span><\/p>\n De toepassing van gezichtsherkenningstechnologie door Brazili\u00eb in S\u00e3o Paulo via de <\/span>Smart Sampa project<\/span><\/a> en andere vormen van predictive policing, waaronder verschillende programma's in de VS, geeft het potentieel van technologie aan om het bestuur van de fundamentele vrijheden van mensen te be\u00efnvloeden.\u00a0<\/span><\/p>\n Palantir's Gotham software wordt al sinds 2012 gebruikt door de New Orleans Police Department voor predictive policing, en nieuwere versies <\/span>mislukt zijn verklaard<\/span><\/a>Dit leidt tot vooroordelen voor gemarginaliseerde gemeenschappen en verspilling van politiemiddelen.\u00a0<\/span><\/p>\n Daarnaast nemen law-bots steeds meer taken over die traditioneel door paralegals werden uitgevoerd, waarbij technologie\u00ebn zoals ROSS Intelligence Amerikaanse advocatenkantoren helpen bij juridisch onderzoek.\u00a0<\/span><\/p>\n Er zijn onlangs meldingen geweest van advocaten die generatieve AI gebruiken, waaronder ChatGPT, om te helpen bij het onderzoeken van zaken - waaronder een <\/span>spraakmakend incident<\/span><\/a> waarbij een advocaat juridische claims indiende met AI-gefabriceerde zaken.\u00a0<\/span><\/p>\n Het volledig vervangen van politici door AI is het onderwerp geweest van veel speculatie, onder andere in een recente podcast van Joe Rogan en OpenAI CEO Sam Altman. <\/span><\/p>\n Joe Rogan brengt het onderwerp ter sprake en zegt dat AI objectiever in staat zou kunnen blijken om te profiteren van de specifieke behoeften van mensen, los van financi\u00eble en politieke invloeden. <\/span><\/p>\n Altman is het ermee eens dat conventionele overheidsbesluiten vaak gebaseerd zijn op corrupte motieven, maar voelt zich niet prettig bij het overmatig vertrouwen van AI in belangrijke maatschappelijke beslissingen.\u00a0<\/span><\/p>\nOorsprong van algocratie<\/span><\/h2>\n
\n
![\"CyberSyn\"](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/11\/CyberSyn-render-106-1024x576.png\")
\n
Experimenten van de publieke sector met AI en algoritmen<\/span><\/h2>\n
Gerechtigheid door AI en algoritme<\/span><\/h2>\n
![\"Nederlandse](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/10\/images4.persgroep.net_.jpg\")
![\"Sao](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/10\/surveillance.png\")
AI-politici stellen zich kandidaat<\/span><\/h2>\n