Mit der zunehmenden Verbreitung von Algorithmen und maschinellen Lernsystemen im staatlichen und öffentlichen Sektor bewegen wir uns vielleicht auf eine Form des Regierens durch Algorithmen zu - oder eine "Algokratie"?
Algogracy - eine Form der algorithmengesteuerten Governance, die mit Technokratie und Cyberokratie verwandt ist - wendet systematisch KI, Blockchain und Algorithmen auf verschiedene Aspekte von Recht und Gesellschaft an.
Der Begriff "Algokratie" selbst tauchte im akademischen Diskurs um 2013 auf, aber Beispiele für algorithmische Governance reichen bis in die 60er und 70er Jahre zurück.
Algorithmische Verarbeitung und maschinelles Lernen oder KI sind zwar nicht dasselbe, aber sie stellen ein Kontinuum von Technologien dar.
Das Kernthema der algorithmischen Governance - die Übergabe der menschlichen Kontrolle an computergestützte Entscheidungssysteme - hat sich von einfacheren mathematischen Simulationen bis hin zu den heutigen fortgeschrittenen selbstlernenden Modellen weiterentwickelt.
Ist das etwas, das wir begrüßen oder vor dem wir uns hüten sollten?
Die Ursprünge der Algokratie
Algorithmisches Regieren wurde in einer Ära der rasanten Digitalisierung geboren - den 1960er Jahren.
Im Folgenden finden Sie einen kurzen Überblick über die Bedeutung von algorithmischen und KI-integrierten Entscheidungsprozessen in öffentlichen und staatlichen Projekten:
- 1962: Alexander Kharkevich schlägt ein Computernetzwerk für algorithmische Steuerung in Moskau vor.
- 1971-1973: Das Projekt Cybersyn in Chile versucht, die nationale Wirtschaft zu verwalten.
- 1970s: Entwicklung von Systemen zur juristischen Argumentation und zur Auslegung des Steuerrechts wie das LEGOL-Projekt im Vereinigten Königreich und das TAXMAN-Projekt in den USA.
- 1993: Veröffentlichung von "Towards a New Socialism", in dem das Potenzial einer demokratischen Planwirtschaft auf der Grundlage moderner Computertechnologie erörtert wird.
- 2000s: Algorithmen werden allmählich für die Analyse von Überwachungsvideos eingesetzt.
- 2006: A. Aneesh stellt das Konzept der Algokratie vor und erörtert die Auswirkungen der Informationstechnologien auf die öffentliche Entscheidungsfindung.
- 2013: Tim O'Reilly prägte den Begriff "algorithmische Regulierung" und sprach sich für die Nutzung von Big Data und Algorithmen in der Verwaltung aus.
- 2017: Das ukrainische Justizministerium führt versuchsweise staatliche Auktionen mit Blockchain durch.
- Heute: Es gibt zahlreiche Beispiele für Systeme des maschinellen Lernens, die in Behörden und im öffentlichen Sektor eingesetzt werden und von denen einige nachweislich mit minimaler menschlicher Kontrolle Entscheidungen auf höchster Ebene treffen, die das Leben verändern.
Eines der faszinierendsten Projekte ist Cybersynin Chile, das von 1971 bis 1973 lief. Trotz seiner kurzen Lebensdauer dient das Projekt immer noch als Beispiel dafür, wie Gesellschaft - und Menschen - erfolgreich von Computersystemen modelliert werden können.
Die Mechanismen, die dahinter stehen, sind faszinierend und lassen den von der CIA unterstützten Sturz von Salvador Allende und den Übergang Chiles in die verheerende Pinochet-Ära erahnen.
Das Kernstück des Projekts Cybersyn waren vier Hauptkomponenten:
- Wirtschaftssimulator: Dieses Modul wurde entwickelt, um die chilenische Wirtschaft zu modellieren und den Regierungsbeamten die Möglichkeit zu geben, die Ergebnisse verschiedener wirtschaftlicher Entscheidungen zu simulieren.
- Software für Werksleistungen: Es wurde eine maßgeschneiderte Software zur Überwachung und Bewertung der Fabrikleistung entwickelt, die sich auf Schlüsselindikatoren wie Produktionsniveau und Rohstoffversorgung konzentriert.
- Betriebsraum (Opsroom): Dies war das physische Zentrum von Cybersyn, wo Wirtschaftsdaten gesammelt, verarbeitet und angezeigt wurden. Der Opsroom ermöglichte es den Entscheidungsträgern, komplexe Informationen schnell zu verarbeiten und fundierte Entscheidungen zu treffen.
- Nationales Netz von Fernschreibern: Diese waren mit einem Großrechner verbunden und bildeten ein Kommunikationsnetz (das so genannte "Cybernet") zwischen den staatlichen Unternehmen. Dieses Netz ermöglichte die Übermittlung von Wirtschaftsdaten in Echtzeit an die Zentralregierung.
Das Projekt Cybersyn hat sein Potenzial während eines landesweiten Lkw-Streiks im Jahr 1972 unter Beweis gestellt, bei dem die Regierung auf Echtzeitdaten zurückgreifen konnte, um die Auswirkungen des Streiks abzumildern. Das Telex-Netz war von entscheidender Bedeutung für die Aufrechterhaltung der Kommunikation und die Koordinierung der Ressourcenverteilung inmitten der Krise.
Das Projekt wurde jedoch nach dem Militärputsch vom 11. September 1973 abrupt beendet. Der Opsroom und das breitere System wurden demontiert, und Cybersyn blieb eine unvollendete Vision eines technologisch fortschrittlichen und potenziell sozial verantwortlichen Wirtschaftsmanagementsystems. Über die Politik von Cybersyn wird viel diskutiert, wobei es als Beispiel für Innovation im Sozialismus gilt, wofür es verehrt wurde.
Es gibt noch weitere frühe Beispiele für Algokratie, darunter die Projekte LEGOL und TAXMAN in den 1970er Jahren, die den Weg für die Automatisierung regelbasierter Prozesse in Steuerbehörden ebneten. In den folgenden Jahrzehnten wurden diese Technologien weiterentwickelt, wobei in den 2000er Jahren Überwachungsanwendungen in den Vordergrund traten.
Im Jahr 2006 veröffentlichte A. Aneesh in seinem Buch "Virtuelle Migrationführte das Konzept der Algokratie ein und untersuchte, wie die Informationstechnologien die Beteiligung der Menschen an der öffentlichen Entscheidungsfindung einschränken und sie von bürokratischen und marktorientierten Systemen unterscheiden könnten.
Im Jahr 2013 prägte Tim O'Reilly, Gründer und CEO von O'Reilly Media Inc. den Begriff "algorithmische Regulierung" und formulierte eine Vision für eine Governance, die sich die Macht von Big Data und Algorithmen zunutze macht, um bestimmte rechtliche Ergebnisse zu erzielen, und forderte einen Paradigmenwechsel hin zu einer effizienteren und verantwortungsvolleren Governance.
Erst kürzlich, im Jahr 2017, führte das ukrainische Justizministerium ein Experiment durch Blockchain-basierte staatliche Auktionen (auch bekannt als öffentliche Ausschreibungen), die das Potenzial dieser Technologien zur Verbesserung der Transparenz und zur Bekämpfung der Korruption bei staatlichen Transaktionen aufzeigen.
Und damit sind wir schon bei der aufkeimenden Ära der generativen KI und den heutigen fortschrittlichen Grenzmodellen.
Der öffentliche Sektor experimentiert mit KI und Algorithmen
Der öffentliche Sektor und Regierungsbehörden haben in den letzten Jahren viel mit algorithmischer Entscheidungsfindung, KI und maschinellem Lernen experimentiert.
Eine umfassende Studie durchgeführt von der Stanford University zeigte, dass KI- und ML-Tools im US-Bundessektor in erheblichem Umfang eingesetzt werden, wobei 45% der Behörden bis 2020 mit diesen Technologien experimentieren werden.
Palantir-Technologien ist ein wichtiger kommerzieller Anbieter in diesem Bereich und trägt zu den verbleibenden Anwendungen bei.
Betrachtet man die einzelnen Behörden, so führt das Office of Justice Programs mit 12 Anwendungsfällen, gefolgt von der Securities and Exchange Commission mit 10 und der NASA mit neun. Weitere wichtige Behörden sind die FDA, USGS, USPS, SSA, USPTO, BLS und US Customs and Border Protection.
Bei einigen dieser Systeme gibt es weit verbreitete Hinweise auf Verzerrungen. Die Algorithmen des Gesundheitswesens in den USA wurden als Schwarze Patienten werden seltener überwiesen für zusätzliche Betreuung, und vorausschauende polizeiliche Instrumente wie COMPAS wurden bei der Vorhersage des Rückfallrisikos (Rückfälligkeit) und der Verurteilung rassistische Verzerrungen vorgeworfen.
Eine aktuelle Guardian-Untersuchung im öffentlichen Sektor des Vereinigten Königreichs ergab, dass Algorithmen, die in Bereichen wie Sozialhilfe, Einwanderung und Strafjustiz eingesetzt werden, in Fällen von Missbrauch und Diskriminierung eingesetzt wurden.
So wurde das Ministerium für Arbeit und Renten (DWP) für einen Algorithmus kritisiert, der angeblich zu unrechtmäßigen Leistungsaussetzungen führte, und das Gesichtserkennungsprogramm der Metropolitan Police wies eine höhere Fehlerquote bei schwarzen Gesichtern auf.
Gerechtigkeit durch KI und Algorithmus
Ein weiterer Zweig der Algokratie ist die algorithmische oder KI-beeinflusste Justiz und Strafverfolgung.
Neben dem US-amerikanischen COMPAS-System gibt es in Australien noch das "Software "Aufteilen hilft Richtern bei der Aufteilung von Vermögenswerten in Scheidungsverfahren, und China hat Pionierarbeit bei der Einrichtung von Internetgerichten geleistet, bei denen ein virtueller KI-Richter bei grundlegenden Prozessaufgaben behilflich ist.
Die Erfahrungen der niederländischen Regierung mit dem System-Risiko-Anzeige (SyRI) Algorithmus, der zur Aufdeckung von Sozialhilfebetrug entwickelt wurde, wurde aufgrund seiner potenziell diskriminierenden Wirkung und mangelnden Transparenz rechtlich angefochten, was zu einem bahnbrechenden Gerichtsurteil gegen seine Verwendung führte.
Brasiliens Einführung der Gesichtserkennungstechnologie in São Paulo durch das Projekt Smart Sampa und andere Formen der vorausschauenden Polizeiarbeit, darunter mehrere Programme in den USA, zeigen, dass die Technologie das Potenzial hat, den Umgang mit den Grundfreiheiten der Menschen zu beeinflussen.
Die Gotham-Software von Palantir wird seit 2012 vom New Orleans Police Department für die vorausschauende Polizeiarbeit eingesetzt. für gescheitert erklärt worden sindDadurch werden marginalisierte Gemeinschaften benachteiligt und Polizeiressourcen verschwendet.
Darüber hinaus übernehmen Law-Bots zunehmend Aufgaben, die traditionell von Rechtsanwaltsfachangestellten erledigt werden, wobei Technologien wie ROSS Intelligence US-Kanzleien bei der juristischen Recherche unterstützen.
In jüngster Zeit gab es Berichte über Anwälte, die generative KI, einschließlich ChatGPT, zur Unterstützung bei der Fallrecherche einsetzen - darunter ein aufsehenerregender Vorfall bei dem ein Anwalt Rechtsansprüche mit Hilfe von KI-generierten Fällen geltend machte.
AI-Politiker kandidieren für ein Amt
Die vollständige Ersetzung von Politikern durch KI war Gegenstand vieler Spekulationen, auch in einem kürzlich erschienenen Podcast von Joe Rogan und OpenAI-CEO Sam Altman.
Joe Rogan bringt das Thema zur Sprache, indem er sagt, dass KI objektiv in der Lage sein könnte, die spezifischen Bedürfnisse der Menschen unabhängig von finanziellen und politischen Einflüssen zu erfüllen.
Altman stimmt zu, dass konventionelle Regierungsentscheidungen oft auf korrupten Motiven beruhen, aber er fühlt sich nicht wohl dabei, KI zu sehr mit wichtigen gesellschaftlichen Entscheidungen zu betrauen.
2018 kandidierte Michihito Matsuda für das Amt des Bürgermeisters im Tokioter Stadtbezirk Tama als menschlicher Stellvertreter für ein KI-Programmdie einen neuen Ansatz für die politische Kandidatur vorstellte. Obwohl sie nicht gewonnen hat, hat diese Initiative das Potenzial von KI in der Politik aufgezeigt.
Cesar Hidalgo führte 2018 das Konzept der erweiterten Demokratie ein, indem er die Gesetzgebung durch digitale Zwillinge von Personen vorschlug. Hidalgo sagteIch bin fest davon überzeugt, dass die Demokratie mit Hilfe von Technologie und neuen Ideen aktualisiert oder verbessert werden kann.
Im Jahr 2022, "Anführer Lars," ein Chatbot, wurde für die dänischen Parlamentswahlen nominiert und vertritt die Synthetische Partei.
Im Gegensatz zu seinen Vorgängern führte Leader Lars eine politische Partei und beteiligte sich an kritischen politischen Diskussionen, ohne den Anspruch zu erheben, objektiv zu sein, was dem Konzept der virtuellen Politiker eine neue Dimension verleiht.
Vorteile und Kritik an der Algokratie
Die Vorteile von Algocracy fallen in der Regel unter den Oberbegriff "Effizienz". Der Einsatz von KI und Algorithmen für komplexe Entscheidungen ist schneller als der Rückgriff auf Menschen.
Dies ist vor allem in komplexen Bereichen des öffentlichen Sektors von Vorteil, die bereits durch Verzögerungen belastet sind.
Die Versuchung, mit KI-gestützter Entscheidungsfindung zu experimentieren, ist also groß. Deshalb gibt es im öffentlichen Sektor so viele bemerkenswerte Beispiele in ressourcenschwachen Bereichen wie Recht, Justiz, Wirtschaft und Soziales.
Es ist schwierig, Vertrauen in diese Tools zu gewinnen, da die Regierungen nicht wollen, dass ihre proprietären Modelle offengelegt werden, da dies sensible Daten für Bedrohungen offenlegen könnte. Aus diesem Grund werden viele dieser Projekte streng geheim gehalten, was zu ihren Risiken beiträgt.
Der Historiker und Autor von Bestsellern wie "Sapiens" und "Homo Deus", Yuval Noah Harari, hat darauf hingewiesen, dass der anhaltende Konflikt zwischen demokratischen und autoritären Regimen als ein Kampf zwischen zwei Datenverarbeitungssystemen gesehen werden könnte, wobei KI und Algorithmen das Gleichgewicht möglicherweise in Richtung Zentralisierung und Kontrolle kippen.
Harari betont, dass die Fähigkeit der KI, Sprache zu manipulieren und überzeugende Inhalte zu erzeugen, die Demokratie gefährden könnte. Dabei geht es nicht nur darum, dass KI verzerrte oder falsche Informationen produziert, sondern auch um ihre Fähigkeit, menschliche Gespräche zu imitieren und die öffentliche Meinung unbemerkt zu beeinflussen.
Harari beschreibt weiter, wie KI Echokammern schaffen könnte, die sich autoritäre Regime effektiver zunutze machen könnten als Demokratien. Autoritäre Regierungen, die ihre Daten zentral kontrollieren und sich weniger um Datenschutz oder ethische Einschränkungen kümmern, könnten KI aggressiver einsetzen, um die öffentliche Meinung zu überwachen und zu manipulieren.
Es gibt Methoden, um hier Abhilfe zu schaffen. So hat das KI-Startup Anthropic erhebliche Forschungsarbeit geleistet, um "konstitutionelle KI", und genauer gesagt, "kollektive verfassungsrechtliche KIDas System speist die Meinungen der Menschen in ein KI-Modell ein, um die Werte aus der Bevölkerung zu ermitteln (Crowdsourcing).
Diese Techniken könnten die KI-Governance auf demokratische Weise beeinflussen und sicherstellen, dass sich die Modelle an der öffentlichen Meinung orientieren und nicht nur an der Meinung ihrer Erfinder.
Öffentliche Meinung zur Algokratie
Was denkt die Mehrheit der Menschen über diese Anwendungen von KI?
Diese Stimmen sind sehr bezeichnend dafür, wie die Gesellschaft wirklich darüber denkt, ganz oder teilweise von algorithmischen oder KI-Systemen regiert zu werden. Und vergessen wir nicht, dass die Öffentlichkeit diese Projekte durch Steuern finanziert.
Eine 2019 durchgeführte Umfrage von Das Zentrum für die Steuerung des Wandels der Universität IE in Spanien ergab, dass die Öffentlichkeit in den einzelnen europäischen Ländern unterschiedlich stark dafür ist, dass die KI wichtige nationale Entscheidungen treffen darf. In den Niederlanden war die Zustimmung mit 43% am höchsten, während sie in Portugal mit 19% am niedrigsten war.
Forscher haben herausgefunden, dass die Enttäuschung über politische Führer oder Sicherheitsanbieter die Neigung der Öffentlichkeit zu künstlichen Agenten erhöhen kann, die als zuverlässiger wahrgenommen werden.
Mit der Zeit könnten KI-Modelle als Kalibrator für sozial verantwortliches Regierungshandeln fungieren, indem sie Meinungen aus der Öffentlichkeit aufnehmen und in KI-Modelle einfließen lassen, um einige der weniger vertrauenswürdigen Erscheinungsformen der traditionellen Demokratie zu negieren.
Bei richtiger Anwendung könnten diese Techniken sogar die Regierungen in transparenter Weise zur Rechenschaft gegenüber den demokratischen Wünschen des Volkes ziehen.
Die meisten Beispiele für Algokratie zeigen jedoch eher staatliche als demokratische Entscheidungsprozesse.
