Die bahnbrechende Durchführungsverordnung des Weißen Hauses zu KI im Detail

Der 30. Oktober 2023 markiert einen Fortschritt in der KI-Governance, da Präsident Joe Biden eine umfassende Durchführungsverordnung angekündigt hat, die robuste Regeln und Richtlinien für KI festlegt. 

Es wird erwartet, dass die Anordnung eine neue Ära der Transparenz und Standardisierung für KI-Unternehmen einleitet und die Notwendigkeit einer klaren Kennzeichnung von Inhalten und Wasserzeichen unterstreicht.  

"Um das Versprechen der KI zu verwirklichen und die Risiken zu vermeiden, müssen wir diese Technologie regeln, daran führt kein Weg vorbei", sagte Biden bei der Vertragsunterzeichnung im Weißen Haus. 

Auf der Veranstaltung sprach Biden auch über KI-Fälschungen und verkündete zur Erheiterung des Publikums: "Ich habe eine von mir beobachtet...Ich sagte, Was zum Teufel habe ich da gesagt?"

Die Bestellung konzentriert sich auf eine größere Transparenz der KI-Entwickler und legt eine Reihe neuer Standards fest, insbesondere für die Kennzeichnung von KI-generierten Inhalten. 

Das Weiße Haus will mit der Anordnung die "KI-Sicherheit" verbessern. Sie enthält eine überraschende Anforderung an die Entwickler, der US-Regierung die Ergebnisse von Sicherheitstests für neue KI-Modelle mitzuteilen, wenn die Technologie potenziell die nationale Sicherheit bedrohen könnte.

Dabei geht es um den Defense Production Act, der normalerweise für nationale Notfälle reserviert ist.

Für diejenigen, die mit der US-Gesetzgebung nicht vertraut sind: Durchführungsanordnungen sind keine Gesetze - sie schaffen keine neuen Gesetze und ändern keine bestehenden Gesetze. Stattdessen weisen sie den Kongress in Bezug auf politische Prioritäten an.

Der Auftrag, hier veröffentlichtenthält zahlreiche Fristen für verschiedene Maßnahmen, die ergriffen werden müssen, um die KI-Gesetzgebung auf den Weg zu bringen. 

Exekutivanordnungen müssen sich auf verfassungsmäßige oder gesetzliche Befugnisse stützen und dürfen nicht dazu verwendet werden, den Kongress zu umgehen oder einseitig Gesetze zu erlassen.

Infolgedessen haben viele darauf hingewiesen, dass es der Durchführungsverordnung an Durchsetzungsmechanismen fehlt. Sie hat nicht das gleiche Gewicht wie die Gesetzgebung des Kongresses zur KI.

"Der Kongress ist so stark polarisiert und sogar dysfunktional, dass es sehr unwahrscheinlich ist, dass er in naher Zukunft eine sinnvolle KI-Gesetzgebung hervorbringt", bemerkt Anu Bradford, Rechtsprofessor an der Columbia University.

Die Anordnung erfolgt wenige Tage vor der Verabschiedung des britischen Meilenstein des AI-Sicherheitsgipfelsbei der Politiker, Forscher, Führungskräfte aus der Technologiebranche und Mitglieder der Zivilgesellschaft in Bletchley Park zusammenkommen werden. Vizepräsidentin Kamala Harris nimmt daran teil. Auch China wird auf dem Gipfel vertreten sein. 

"Wir wollen, dass die Maßnahmen, die wir im Inland ergreifen, als Modell für internationale Maßnahmen dienen", sagte Harris auf der Veranstaltung im Weißen Haus. 

Diese Erklärung lenkt die Aufmerksamkeit auf die Kritik, dass die Anordnung möglicherweise die offene internationale Zusammenarbeit im Vorfeld des KI-Sicherheitsgipfels untergraben könnte.

Die USA haben mit der Regulierung von KI nur langsam begonnen, und die Art der Durchführungsverordnungen bedeutet, dass sie dies auch weiterhin tun. Es ist vielleicht dreist, anderen Ländern vorzuschlagen, diesem Weg zu folgen.

Harris fuhr fort, dass die USA "bestehende internationale Regeln und Normen mit dem Ziel anwenden werden, die globale Ordnung und Stabilität zu fördern und, wo nötig, Unterstützung für zusätzliche Regeln und Normen zu gewinnen, die diesem Moment entsprechen".

Was das Weiße Haus zu sagen hat

Die Verordnung führt strenge Standards für KI ein, die die Privatsphäre der Amerikaner schützen, Gleichberechtigung und Bürgerrechte fördern, Verbraucher und Arbeitnehmer schützen, Innovation und Wettbewerb ankurbeln und die Führungsrolle der USA im Bereich KI stärken. 

Sie ergänzt die freiwillige Verpflichtungen von 15 führenden Unternehmen, um die sichere und vertrauenswürdige Entwicklung von KI zu fördern.

Eines der bemerkenswertesten Elemente der Anordnung ist, dass der Präsident erklärt hat, dass die Entwickler von "leistungsstarken" KI-Systemen die Ergebnisse von Sicherheitstests und kritische Informationen mit der US-Regierung teilen müssen, um sicherzustellen, dass diese Systeme sicher und vertrauenswürdig sind, bevor sie veröffentlicht werden.

Das National Institute of Standards and Technology (NIST) wird bei der Prüfung und Analyse der Sicherheit von KI-Modellen federführend sein.

Red Team ist der Prozess der Erprobung und des Stresstests der Funktionalität und Sicherheit von KI-Modellen. 

Die Forderung des Präsidenten nach einer parteiübergreifenden Gesetzgebung zum Datenschutz spiegelt das Verständnis für die Dringlichkeit der Situation wider.

Wie bereits erwähnt, hängt die Wirksamkeit dieser Maßnahmen jedoch letztlich vom raschen und entschlossenen Handeln des Kongresses ab, der in der Vergangenheit bei der Verabschiedung von Gesetzen zu technologiebezogenen Themen eher langsam war.

Darüber hinaus setzt sich die Verordnung für mehr Gerechtigkeit und die Bekämpfung algorithmischer Diskriminierung ein und enthält Richtlinien zur Gewährleistung von Fairness im Wohnungswesen, in der Strafjustiz und bei Bundesleistungsprogrammen. 

Auch wenn dies positive Schritte sind, hängt der Erfolg dieser Initiativen von einer rigorosen Durchsetzung und kontinuierlichen Überwachung ab. 

Der Auftrag behandelt acht Schlüsselbereiche. 

Hier erfahren Sie, wie Präsident Bidens bahnbrechende Exekutivanordnung zur KI sicherstellen wird, dass Amerika in dieser Zeit des technologischen Wandels eine Vorreiterrolle spielt und gleichzeitig die Sicherheit der Amerikaner gewährleistet. pic.twitter.com/SvBPxiZk3M

- Das Weiße Haus (@WhiteHouse) 30. Oktober 2023

1. Neue Standards für KI-Sicherheit und Schutz

• Die Entwickler leistungsfähiger KI-Systeme müssen die Ergebnisse von Sicherheitstests und wichtige Informationen mit der US-Regierung teilen.
• Die Entwicklung von Normen, Werkzeugen und Tests zur Gewährleistung der Sicherheit und Vertrauenswürdigkeit von KI-Systemen unter der Leitung des NIST.
• Schutz vor dem Potenzial der künstlichen Intelligenz bei der Entwicklung gefährlicher biologischer Materialien durch die Festlegung robuster Standards für das Screening biologischer Synthesen.
• Festlegung von Protokollen zum Schutz der Amerikaner vor KI-gestütztem Betrug und Täuschung, einschließlich Standards für die Erkennung von KI-generierten Inhalten und die Authentifizierung offizieller Kommunikation.
• Start eines fortschrittlichen Cybersicherheitsprogramms zur Nutzung von KI bei der Sicherung von Software und Netzwerken.

2. Schutz der Privatsphäre der Amerikaner

• Eintreten für eine staatliche Unterstützung bei der Entwicklung und Anwendung von Techniken zur Wahrung der Privatsphäre in der KI.
• Stärkung der Forschung im Bereich der Technologien zur Wahrung der Privatsphäre.
• Verbesserung der Leitlinien der Bundesbehörden zur Gewährleistung des Schutzes der Privatsphäre bei der Erhebung und Nutzung von Daten, insbesondere von personenbezogenen Daten.

3. Förderung von Gerechtigkeit und Bürgerrechten

• Bereitstellung von Leitlinien, um das Potenzial von AI zur Verschärfung von Diskriminierung im Wohnungswesen, in der Justiz und in der Beschäftigung zu verringern.
• Förderung der Fairness im gesamten Strafrechtssystem durch die Entwicklung bewährter Praktiken bei der Anwendung von KI.

4. Eintreten für Verbraucher, Patienten und Studenten

• Förderung des verantwortungsvollen Einsatzes von KI im Gesundheitswesen zur Entwicklung erschwinglicher, lebensrettender Medikamente und zur Gewährleistung der Sicherheit bei KI-gestützten Verfahren im Gesundheitswesen.
• Erleichterung der transformativen Rolle der KI in der Bildung, Unterstützung von Pädagogen beim Einsatz von KI-gestützten Lernwerkzeugen.

5. Unterstützung der Arbeitnehmer

• Entwicklung von Grundsätzen und bewährten Praktiken zur Abwägung von Nutzen und Schaden der KI am Arbeitsplatz.
• Durchführung umfassender Studien über die Auswirkungen von KI auf den Arbeitsmarkt und Verstärkung der staatlichen Unterstützung für Arbeitnehmer, die mit Arbeitsunterbrechungen aufgrund von KI konfrontiert sind.

6. Förderung von Innovation und Wettbewerb

• Katalysierung der KI-Forschung im ganzen Land und Gewährleistung eines wettbewerbsfähigen KI-Ökosystems.
• Straffung der Einwanderungsverfahren für hochqualifizierte Personen in wichtigen KI-Sektoren.

7. Förderung der amerikanischen Führungsrolle im Ausland

• Stärkung der internationalen Zusammenarbeit und des Rahmens für KI.
• Förderung der sicheren und verantwortungsvollen Entwicklung und Einführung von KI weltweit.

8. Sicherstellung einer verantwortungsvollen und effektiven Nutzung von KI durch die Regierung

• Bereitstellung klarer Leitlinien für Bundesbehörden zur Nutzung, Beschaffung und Einführung von KI.
• Verbesserung der KI-Talentakquise in der gesamten Regierung und Bereitstellung von KI-Schulungen für Bundesbedienstete.

Die Regierung Biden-Harris versucht, ein Gleichgewicht zwischen dem Erhalt und dem Ausbau der weltweit führenden KI-Industrie der USA und der Eindämmung offensichtlicher Risiken zu finden. 

Fälschungen und Fehlinformationen sind den meisten Menschen ein Dorn im Auge, denn es gibt inzwischen handfeste Beweise dafür, dass sie Wahlentscheidungen beeinflussen könnten. 

Mit Blick auf die US-Wahl im nächsten Jahr ist es vielleicht nicht überraschend, dass die Anordnung den Druck erhöht, KI-generierte Inhalte mit Wasserzeichen zu versehen und hervorzuheben, damit die Nutzer leicht zwischen echten und gefälschten Inhalten unterscheiden können. 

Technisch gesehen, gibt es jedoch keine soliden Lösungen, um dies zu erreichen in der Praxis. 

Reaktionen der Industrie

Die Reaktionen der Industrie sind natürlich unterschiedlich. Viele loben die raschen Fortschritte bei der Unterzeichnung der Verordnung, während andere betonen, dass es an Rechtsvorschriften und Informationen über Durchsetzungsmaßnahmen mangelt. 

Auch hier deutet die Anordnung darauf hin, dass das Weiße Haus den Kongress zum Handeln in der KI-Politik auffordert.

Die einzige Ausnahme ist der Defense Production Act, der KI-Unternehmen dazu zwingt, die Regierung zu informieren, wenn sie Modelle entwickeln, die mit der nationalen Sicherheit interagieren.

Der offizielle Wortlaut lautet: ein KI-Modell, das ein "ernstes Risiko für die nationale Sicherheit, die nationale wirtschaftliche Sicherheit oder die nationale öffentliche Gesundheit und Sicherheit" darstellt.

Die AI Executive Order ist ein wenig lächerlich und ziemlich schwer durchzusetzen.

Hier sind die Probleme -

1. Jedes Stiftungsmodell, das ein ernsthaftes Risiko für die nationale Sicherheit darstellt - Wie bestimmt man, ob etwas ein "ernsthaftes Risiko für die nationale Sicherheit" ist?

Wenn es um...

- Bindu Reddy (@bindureddy) 30. Oktober 2023

Einige wiesen darauf hin, dass es im Vergleich zum EU-KI-Gesetz keine Leitlinien für die Transparenz von Trainingsdaten gibt, weswegen mehrere KI-Entwickler mit Klagen konfrontiert sind.

Nicht in der neuen Ausführungsanordnung enthalten:

KI-Unternehmen müssen ihr Trainingsset offenlegen.

Um sichere KI zu entwickeln, müssen wir wissen, worauf das Modell trainiert wird.

Warum setzen sich die KI-Sicherheitsorganisationen nicht dafür ein?https://t.co/yjr21bNIK4

- Damek Davis (@damekdavis) 30. Oktober 2023

Adnan Masood, leitender KI-Architekt bei UST, begrüßte die Initiative und erklärte: "Die Anordnung unterstreicht eine dringend benötigte Verlagerung der globalen Aufmerksamkeit auf die Regulierung von KI, insbesondere nach dem generativen KI-Boom, den wir alle in diesem Jahr erlebt haben." 

Avivah Litan, Vizepräsidentin bei Gartner Research, merkte an, dass die Regeln zwar einen guten Anfang machen, es aber immer noch Bereiche gibt, in denen die Mandate zu kurz greifen. Sie hinterfragte die Definition der "leistungsfähigsten" KI-Systeme, die Anwendung auf Open-Source-KI-Modelle und die Durchsetzung von Standards für die Authentifizierung von Inhalten auf sozialen Medienplattformen. 

Bradley LumbCEO von Tusk Ventures, sagte, dass KI-Entwickler wahrscheinlich keine geschützten Daten mit der Regierung teilen werden: "Ohne einen echten Durchsetzungsmechanismus, den die Durchführungsverordnung nicht zu haben scheint, ist das Konzept großartig, aber die Einhaltung könnte sehr begrenzt sein."

Randy Lariar, Leiter der KI-Sicherheitsabteilung bei Optiv, sagt: "Ich befürchte, dass viele Open-Source-Modelle, die von den großen Grundmodellen abgeleitet sind, ohne die Last des Red-Teaming genauso riskant sein können - aber dies ist ein Anfang."

Ashley Leonard, Vorstandsvorsitzender von Syxsense, fügte hinzu, dass es sehr interessant sein wird, zu sehen, wie die Anordnung umgesetzt wird. "Selbst die fortschrittlichsten Unternehmen benötigen echte Ressourcen - Budget, Zeit und Personal -, um mit Schwachstellen und Fehlerbehebungen Schritt zu halten", so Leonard.

Max Tegmark, Professor am Massachusetts Institute of Technology und Präsident des Future of Life Institute, betonte, dass der Orden mit einem Plan für die Schaffung und Durchsetzung von Gesetzen ausgestattet sein muss: "Die politischen Entscheidungsträger, einschließlich derjenigen im Kongress, müssen sich um ihre Bürger kümmern, indem sie Gesetze mit Biss erlassen, die Bedrohungen abwehren und den Fortschritt sichern".

Jaysen Gillespie, Leiter der Abteilung Analytik und Datenwissenschaft bei RTB House, bewertete die Durchführungsverordnung positiv und erklärte, dass die Regulierung von KI ein Thema sei, bei dem ein überparteilicher Ansatz wirklich möglich sei. 

Alejandro Mayorkas von Homeland Security sagte: "Die beispiellose Geschwindigkeit der Entwicklung und Einführung von KI birgt erhebliche Risiken, die wir schnell entschärfen müssen, aber auch Möglichkeiten, unsere Arbeit im Namen des amerikanischen Volkes voranzutreiben und zu verbessern... Es weist das DHS an, KI in kritischen Infrastrukturen und im Cyberspace zu verwalten, die Annahme von KI-Sicherheitsstandards weltweit zu fördern, das Risiko der Verwendung von KI zur Schaffung von Massenvernichtungswaffen zu verringern, den Diebstahl von geistigem Eigentum im Zusammenhang mit KI zu bekämpfen und sicherzustellen, dass unser Einwanderungssystem Talente anzieht, um verantwortungsvolle KI in den Vereinigten Staaten zu entwickeln."

Casey EllisGründer und CTO von Bugcrowd, sagte: "Die Richtlinie verpflichtet die Entwickler, die Ergebnisse von Sicherheitstests mit der US-Regierung zu teilen, um sicherzustellen, dass KI-Systeme vor der Veröffentlichung umfassend geprüft werden. Sie unterstreicht auch die Bedeutung von KI für die Stärkung der Cybersicherheit, insbesondere bei der Aufdeckung von KI-gestütztem Betrug und der Verbesserung der Software- und Netzwerksicherheit. Die Verordnung setzt sich auch für die Entwicklung von Standards, Tools und Tests für die Sicherheit von KI ein.

Ein notwendiger Schritt, aber eine Herausforderung

Präsident Bidens Durchführungsverordnung zur künstlichen Intelligenz versucht, umfassend zu sein, aber der Kongress muss seiner Dringlichkeit mit legislativen Maßnahmen folgen. Das ist noch lange nicht garantiert. 

Sie legt zwar strenge Standards fest und legt den Schwerpunkt auf Transparenz, Rechenschaftspflicht und die Verhinderung diskriminierender Praktiken, doch die tatsächliche Wirksamkeit dieser Initiative wird von ihrer Umsetzung und der Fähigkeit abhängen, ein Gleichgewicht zwischen Regulierungsaufsicht und Innovationsförderung herzustellen. 

Vor dem Hintergrund des bevorstehenden KI-Sicherheitsgipfels werden die Gespräche über die Risiken von KI und deren Eindämmung immer intensiver.

Eine umfassende Kontrolle der KI hängt nach wie vor von der Schnelligkeit und Effizienz der Gesetzgebung und der Fähigkeit zu ihrer Durchsetzung ab.