Die britische Regierung hat ihren Bericht "Capabilities and risks from frontier AI" (Fähigkeiten und Risiken der KI) veröffentlicht, der die Grundlage für die Diskussion auf dem bevorstehenden KI-Sicherheitsgipfel bilden wird.
Der Bericht gibt einen Überblick über die derzeitigen und künftigen Fähigkeiten und Risiken von Grenzmodellen. Bei den Grenzmodellen handelt es sich um hochgradig fähige KI-Modelle für allgemeine Zwecke, die eine Vielzahl von Aufgaben erfüllen können, wie GPT-4 oder Llama 2.
Bevor der Bericht auf aktuelle und künftige Risiken eingeht, erkennt er an, dass die KI das Potenzial hat, unser Leben in vielerlei Hinsicht zu verbessern. In der Einleitung des Berichts heißt es, dass wir uns dank der KI "inmitten einer technologischen Revolution befinden, die die Art und Weise, wie wir leben, arbeiten und miteinander umgehen, grundlegend verändern wird".
Besonders interessant sind die Risiken und Untergangsszenarien, die in dem Bericht beschrieben werden.
Künftige Risiken der KI
In dem Bericht heißt es: "Die Komplexität offener Bereiche macht es schwierig, sichere Systeme zu entwickeln oder alle nachgelagerten Anwendungsfälle erschöpfend zu bewerten." Im Grunde genommen sagen sie, dass KI ein Werkzeug ist, ähnlich wie ein Kugelschreiber. Man kann es gut funktionieren lassen, aber nicht verhindern, dass jemand es benutzt, um schlechte Dinge zu schreiben.
Die Risiken, die sich aus der doppelten Verwendbarkeit von KI ergeben, füllen Dutzende von Seiten in dem Bericht und lassen die Frage aufkommen, was der Gipfel in 2 Tagen erreichen wird.
Ein bemerkenswertes Risiko, das in dem Bericht angesprochen wird, ist das aktive Streben künftiger KI nach Autonomie. In dem Bericht heißt es: "Der Kontrollverlust könnte beschleunigt werden, wenn KI-Systeme Maßnahmen ergreifen, um ihren eigenen Einfluss zu erhöhen und die menschliche Kontrolle zu verringern."
Er stellte fest, dass künftige KI sowohl die Fähigkeit als auch die Bereitschaft dazu entwickeln könnte.
Einige Experten sind zwar der Ansicht, dass die Die Risiken der KI wurden überbewertetwerden in dem Bericht die eher existenziellen Bedrohungen nicht außer Acht gelassen.
KI könnte das Gesundheitswesen, die Wissenschaft und die Energieversorgung rasch voranbringen, aber wir müssen sie sicher nutzen.
Die Regierung hat ein Diskussionspapier über die Risiken und Möglichkeiten von Frontier AI veröffentlicht:https://t.co/YIjyZsgcbe
Lesen Sie unten eine Zusammenfassung 👇.
(1/4) pic.twitter.com/FJdbKcqk4e- Ministerium für Wissenschaft, Innovation und Technologie (@SciTechgovuk) 26. Oktober 2023
KI-Untergangsszenarien
In dem Bericht heißt es: "Angesichts der erheblichen Unsicherheiten bei der Vorhersage von KI-Entwicklungen gibt es keine ausreichenden Beweise, um auszuschließen, dass hochgradig leistungsfähige künftige Frontier-KI-Systeme bei falscher Ausrichtung oder unzureichender Kontrolle eine existenzielle Bedrohung darstellen könnten."
Das könnte unter anderem dann passieren, wenn "die Menschen mit zunehmender KI-Fähigkeit der KI mehr Kontrolle über kritische Systeme gewähren und schließlich unumkehrbar von Systemen abhängig werden, die sie nicht vollständig verstehen."
Wenn das Licht ausgeht und nur KI weiß, wo der Schalter ist, könnten wir eine Zeit lang im Dunkeln sitzen.
In einem futuristischen Szenario beschreibt der Bericht einen "Wilden Westen der KI", wie er es nennt. In diesem Szenario, das im Jahr 2030 spielt, "haben die Behörden mit dem Umfang und der Vielfalt des Missbrauchs zu kämpfen. Die Konzentration auf die Bewältigung der unmittelbaren Auswirkungen dieser Krise hat es schwer gemacht, einen globalen Konsens darüber zu erreichen, wie die Probleme langfristig zu bewältigen sind.
Das klingt nicht nach der Zukunft, sondern nach dem, was gerade passiert. Es ist unwahrscheinlich, dass ein zweitägiger Gipfel viel an den alarmierenden Risiken ändern kann, die in diesem Bericht beschrieben werden.
Der KI-Sicherheitsgipfel basiert auf der Vorstellung, dass "sichere" KI möglich ist, wenn wir uns nur genug Mühe geben. Aber ist das so?
Wenn eine AGI bereits in freier Wildbahn unterwegs ist, könnte sie die in diesem Bericht dargelegten Bedenken leicht lesen und dann ihre Fähigkeit oder Absicht, diese Szenarien durchzuspielen, verbergen. Bis es zu spät ist.
