{"id":1659,"date":"2023-06-13T21:32:01","date_gmt":"2023-06-13T21:32:01","guid":{"rendered":"https:\/\/dailyai.com\/?p=1659"},"modified":"2024-03-28T00:48:07","modified_gmt":"2024-03-28T00:48:07","slug":"navigating-the-labyrinth-of-ai-risks-an-analysis","status":"publish","type":"post","link":"https:\/\/dailyai.com\/de\/2023\/06\/navigating-the-labyrinth-of-ai-risks-an-analysis\/","title":{"rendered":"Navigieren durch das Labyrinth der KI-Risiken: eine Analyse"},"content":{"rendered":"

Das Narrativ \u00fcber die Risiken der KI ist zunehmend unipolar geworden, wobei Technologief\u00fchrer und Experten aus allen Ecken auf eine Regulierung dr\u00e4ngen. Wie glaubw\u00fcrdig sind die Beweise, die die Risiken der KI belegen?\u00a0<\/strong><\/p>\n

Die Risiken der KI appellieren an die Sinne. <\/span>Es hat etwas zutiefst Intuitives, sich vor Robotern zu f\u00fcrchten, die uns t\u00e4uschen, uns \u00fcberw\u00e4ltigen oder uns zu einer Ware machen k\u00f6nnten, die ihrer eigenen Existenz untergeordnet ist.<\/span><\/p>\n

Die Debatten \u00fcber die Risiken der KI haben sich nach der t<\/span>Der gemeinn\u00fctzige <\/span>Zentrum f\u00fcr KI-Sicherheit (CAIS)<\/span> ver\u00f6ffentlichte eine Anweisung<\/a>\u00a0unterzeichnet von \u00fcber 350 namhaften Pers\u00f6nlichkeiten, darunter die CEOs von OpenAI, Anthropic und DeepMind, zahlreiche Akademiker, Pers\u00f6nlichkeiten des \u00f6ffentlichen Lebens und sogar ehemalige Politiker.\u00a0<\/span><\/p>\n

Der Titel der Erkl\u00e4rung war f\u00fcr die Schlagzeilen bestimmt: \"Die Minderung des Risikos des Aussterbens durch KI sollte neben anderen gesellschaftlichen Risiken wie Pandemien und Atomkrieg eine globale Priorit\u00e4t sein.<\/strong><\/p>\n

Es ist immer schwieriger geworden, aus dieser lauten Debatte ein sinnvolles Signal herauszuholen. Die Kritiker von KI haben alle Munition, die sie brauchen, um dagegen zu argumentieren, w\u00e4hrend die Bef\u00fcrworter oder Zauderer alles haben, was sie brauchen, um die Anti-AI-Narrative als \u00fcbertrieben zu bezeichnen.<\/span><\/p>\n

Und es gibt auch noch eine Nebenhandlung. Big Tech k\u00f6nnte auf eine Regulierung dr\u00e4ngen, um die KI-Industrie einzugrenzen<\/a> aus der Open-Source-Gemeinschaft. <\/span>Microsoft investierte in OpenAI, Google in Anthropic - der n\u00e4chste Schritt k\u00f6nnte darin bestehen, die Eintrittsbarriere zu erh\u00f6hen und Open-Source-Innovationen zu ersticken.<\/p>\n

Nicht die KI stellt eine existenzielle Gefahr f\u00fcr die Menschheit dar, sondern die quelloffene KI k\u00f6nnte eine existenzielle Gefahr f\u00fcr Big Tech sein. Die L\u00f6sung ist dieselbe - kontrollieren Sie sie jetzt.<\/p>\n

Zu fr\u00fch, um die Karten vom Tisch zu nehmen<\/h2>\n

KI ist gerade erst in das \u00f6ffentliche Bewusstsein ger\u00fcckt, so dass praktisch alle Perspektiven zu Risiken und Regulierung weiterhin relevant sind. Die CAIS-Erkl\u00e4rung kann zumindest als wertvoller Wegweiser f\u00fcr eine evidenzbasierte Diskussion dienen.<\/p>\n

Dr. Oscar Mendez Maldonado, Dozent f\u00fcr Robotik und k\u00fcnstliche Intelligenz an der Universit\u00e4t von Surrey, sagte<\/a>Das von KI-Experten unterzeichnete Dokument ist wesentlich nuancierter, als es die aktuellen Schlagzeilen vermuten lassen. \"KI k\u00f6nnte zum Aussterben f\u00fchren\" l\u00e4sst sofort an eine KI-\u00dcbernahme im Stil von Terminator denken. Das Dokument ist wesentlich realistischer als das.\"<\/span><\/p>\n

Wie Maldonado hervorhebt, wird der eigentliche Inhalt der AI-Risikoerkl\u00e4rung auf einer anderen Seite der Website ver\u00f6ffentlicht - AI-Risiko<\/a> - und es wurde bemerkenswert wenig \u00fcber die dort angesprochenen Punkte diskutiert. Das Verst\u00e4ndnis der Glaubw\u00fcrdigkeit von KI-Risiken ist von grundlegender Bedeutung, um die Debatten \u00fcber sie zu f\u00fchren.<\/span><\/p>\n

Welche Beweise hat CAIS zusammengetragen, um seine Botschaft zu untermauern? Erscheinen die oft angef\u00fchrten Risiken von AI glaubw\u00fcrdig?\u00a0<\/span><\/p>\n

Risiko 1: Bewaffnung der KI<\/span><\/h2>\n

Die Bewaffnung der KI ist eine be\u00e4ngstigende Aussicht, und so ist es vielleicht nicht \u00fcberraschend, dass dies den ersten Platz unter den 8 Risiken des CAIS einnimmt.\u00a0<\/span><\/p>\n

Das CAIS argumentiert, dass KI bei Cyberangriffen als Waffe eingesetzt werden kann, wie die Forscher des Center of Security and Emerging Technology zeigen, das <\/span>\u00dcbersicht der Verwendungen<\/span><\/a> des maschinellen Lernens (ML) f\u00fcr Angriffe auf IT-Systeme. <\/span>Ex-Google-Chef Eric Schmidt erregte auch Aufmerksamkeit<\/a> auf das Potenzial der KI beim Aufsp\u00fcren von Zero-Day-Exploits, die Hackern die M\u00f6glichkeit bieten, \u00fcber die schw\u00e4chsten Stellen in Systeme einzudringen.\u00a0<\/span><\/p>\n

Michael Klare, der als Berater f\u00fcr R\u00fcstungskontrolle t\u00e4tig ist, er\u00f6rtert in einem anderen Beitrag die <\/span>Automatisierung nuklearer F\u00fchrungs- und Leitsysteme<\/span><\/a>die sich auch als anf\u00e4llig f\u00fcr KI erweisen k\u00f6nnten. Er sagt: \"Diese Systeme sind auch anf\u00e4llig f\u00fcr unerkl\u00e4rliche Fehlfunktionen und k\u00f6nnen von geschickten Fachleuten \u00fcberlistet oder \"gef\u00e4lscht\" werden. Ganz gleich, wie viel in die Cybersicherheit investiert wird, NC3-Systeme werden immer anf\u00e4llig f\u00fcr Hackerangriffe durch hochentwickelte Angreifer sein.<\/span><\/p>\n

Ein weiteres Beispiel f\u00fcr eine m\u00f6gliche Bewaffnung ist die automatische Entdeckung von Biowaffen. Der KI ist es bereits gelungen, potenzielle Biowaffen zu entdecken. therapeutische Wirkstoffe<\/a>Die F\u00e4higkeiten sind also bereits vorhanden.<\/span>\u00a0<\/span><\/p>\n

KIs k\u00f6nnten sogar Waffentests autonom und mit minimaler menschlicher F\u00fchrung durchf\u00fchren. So hat ein Forscherteam der Universit\u00e4t Pittsburgh gezeigt, dass hochentwickelte <\/span>KI-Agenten k\u00f6nnten ihre eigenen autonomen wissenschaftlichen Experimente durchf\u00fchren<\/span><\/a>.<\/span><\/p>\n

Risiko 2: Fehlinformationen und Betrug<\/span><\/h2>\n

Das Potenzial der KI, Menschen zu kopieren und zu imitieren, sorgt bereits jetzt f\u00fcr Aufruhr, und wir haben bereits mehrere Betrugsf\u00e4lle erlebt, bei denen es um F\u00e4lschungen ging. Berichte aus China<\/a> deuten darauf hin, dass Betrug im Zusammenhang mit KI weit verbreitet ist.\u00a0<\/span><\/p>\n

In einem aktuellen Fall ging es um eine Frau aus Arizona, die den H\u00f6rer abnahm und von ihrer schluchzenden Tochter konfrontiert wurde - zumindest dachte sie das. \"Die Stimme klang genau wie die von Brie, der Tonfall, alles\". <\/span>sagte sie gegen\u00fcber CNN<\/span><\/a>. Der Betr\u00fcger forderte ein L\u00f6segeld in H\u00f6he von $1 Million.\u00a0<\/span><\/p>\n

Andere Taktiken umfassen den Einsatz generativer KI f\u00fcr \"Sextortion\" und Rachepornografie, bei der Bedrohungsakteure KI-generierte Bilder verwenden, um L\u00f6segeld f\u00fcr explizite gef\u00e4lschte Inhalte zu fordern, die die <\/span>FBI warnte Anfang Juni vor<\/span><\/a>. Diese Techniken werden immer ausgefeilter und lassen sich immer leichter in gro\u00dfem Ma\u00dfstab einsetzen.<\/span><\/p>\n

Risiko 3: Proxy- oder Spezifikationsspiel<\/span><\/h2>\n

KI-Systeme werden in der Regel anhand messbarer Ziele trainiert. Diese Ziele k\u00f6nnen jedoch nur stellvertretend f\u00fcr die wahren Ziele stehen und zu unerw\u00fcnschten Ergebnissen f\u00fchren.\u00a0<\/span><\/p>\n

Eine n\u00fctzliche Analogie ist der griechische Mythos von K\u00f6nig Midas, dem von Dionysos ein Wunsch erf\u00fcllt wurde.\u00a0<\/span>Midas bittet darum, dass alles, was er ber\u00fchrt, zu Gold wird, aber sp\u00e4ter stellt er fest, dass auch sein Essen zu Gold wird, was fast zum Verhungern f\u00fchrt.\u00a0<\/span>Hier f\u00fchrt die Verfolgung eines \"positiven\" Endziels zu negativen Folgen oder Nebenprodukten des Prozesses. <\/span><\/p>\n

Der CAIS weist beispielsweise auf KI-Empfehlungssysteme hin, die in sozialen Medien eingesetzt werden, um die Verweildauer und die Klickrate zu maximieren, aber Inhalte, die das Engagement maximieren, sind nicht unbedingt <\/span>positiv f\u00fcr das Wohlbefinden der Nutzer<\/span><\/a>. KI-Systeme wurden bereits beschuldigt, Meinungen auf Social-Media-Plattformen zu isolieren und \"Echokammern\" zu schaffen, in denen extreme Ideen weiter verbreitet werden.\u00a0<\/span><\/p>\n

DeepMind hat bewiesen, dass es f\u00fcr KI subtilere Mittel gibt, um sch\u00e4dliche Wege zum Ziel zu verfolgen, indem sie <\/span>Zielfehlverallgemeinerung<\/span><\/a>. DeepMind fand in seiner Forschung heraus, dass eine scheinbar kompetente KI ihr Ziel falsch verallgemeinern und in die falsche Richtung verfolgen kann.\u00a0<\/span><\/p>\n

Risiko 4: Gesellschaftliche Schw\u00e4chung<\/span><\/h2>\n

In Anlehnung an die dystopische Welt des Films WALL-E warnt das CAIS vor einem \u00fcberm\u00e4\u00dfigen Vertrauen in die KI.\u00a0<\/span><\/p>\n

Dies k\u00f6nnte zu einem Szenario f\u00fchren, in dem die Menschen ihre F\u00e4higkeit zur Selbstverwaltung verlieren, was die Kontrolle der Menschheit \u00fcber die Zukunft verringert. Der Verlust menschlicher Kreativit\u00e4t und Authentizit\u00e4t ist eine weitere gro\u00dfe Sorge, die durch das kreative Talent der KI in Kunst, Schriftstellerei und anderen kreativen Disziplinen noch verst\u00e4rkt wird.\u00a0<\/span><\/p>\n

Ein Twitter-Nutzer witzelte: \"Menschen, die harte Arbeit f\u00fcr einen Mindestlohn verrichten, w\u00e4hrend die Roboter Gedichte schreiben und malen, ist nicht die Zukunft, die ich mir w\u00fcnsche\". Der Tweet wurde \u00fcber 4 Millionen Mal aufgerufen.\u00a0<\/span><\/p>\n

\n

Menschen, die f\u00fcr einen Mindestlohn harte Arbeit verrichten, w\u00e4hrend Roboter Gedichte schreiben und malen, ist nicht die Zukunft, die ich mir w\u00fcnsche.<\/p>\n

- Karl Sharro (@KarlreMarks) Mai 15, 2023<\/a><\/p><\/blockquote>\n

Die Entm\u00fcndigung ist keine unmittelbare Gefahr, aber einige argumentieren<\/a> dass der Verlust von F\u00e4higkeiten und Talenten in Verbindung mit der Dominanz von KI-Systemen zu einem Szenario f\u00fchren k\u00f6nnte, in dem die Menschheit kein neues Wissen mehr schafft.<\/p>\n

Risiko 5: Risiko der Werteinschr\u00e4nkung<\/span><\/h2>\n

Leistungsstarke KI-Systeme k\u00f6nnten potenziell zu einer Einschlie\u00dfung unterdr\u00fcckerischer Systeme f\u00fchren.\u00a0<\/span><\/p>\n

So kann die Zentralisierung von KI bestimmten Regimen die Macht verleihen, Werte durch \u00dcberwachung und repressive Zensur durchzusetzen.<\/span><\/p>\n

Eine andere M\u00f6glichkeit ist die unbeabsichtigte Wertebindung durch die naive \u00dcbernahme riskanter KI. So f\u00fchrte beispielsweise die Ungenauigkeit der Gesichtserkennung zur vor\u00fcbergehenden Inhaftierung von mindestens drei M\u00e4nnern in den USA, darunter <\/span>Michael Oliver und Nijeer Parks<\/span><\/a>die aufgrund einer falschen Gesichtserkennung im Jahr 2019 zu Unrecht inhaftiert wurden.\u00a0<\/span><\/p>\n

Eine sehr einflussreiche <\/span>Studie von 2018 mit dem Titel Gender Shades<\/span><\/a> fanden heraus, dass die von Microsoft und IBM entwickelten Algorithmen bei der Analyse dunkelh\u00e4utiger Frauen schlecht abschnitten, wobei die Fehlerquote um bis zu 34% h\u00f6her war als bei hellh\u00e4utigen M\u00e4nnern. Dieses Problem zeigte sich auch bei 189 anderen Algorithmen, die alle eine geringere Genauigkeit bei dunkelh\u00e4utigen M\u00e4nnern und Frauen aufwiesen.<\/span><\/p>\n

Die Forscher argumentieren, dass KI vor allem anhand von Open-Source-Datens\u00e4tzen trainiert wird, die von westlichen Forschungsteams erstellt und durch die reichhaltigste Datenquelle - das Internet - angereichert werden. Die massenhafte Einf\u00fchrung von schlecht gepr\u00fcften KI k\u00f6nnte diese strukturellen Verzerrungen hervorrufen und verst\u00e4rken.<\/span><\/p>\n

Risiko 6: KI entwickelt neue Ziele\u00a0<\/span><\/h2>\n

KI-Systeme k\u00f6nnen neue F\u00e4higkeiten entwickeln oder unvorhergesehene Ziele verfolgen, die sch\u00e4dliche Folgen haben.\u00a0<\/span><\/p>\n

Forscher der Universit\u00e4t von Cambridge <\/span>die Aufmerksamkeit auf zunehmend agentenbasierte KI-Systeme lenken<\/span><\/a> die zunehmend die F\u00e4higkeit erlangen, neue Ziele zu verfolgen. Emergente Ziele sind unvorhersehbare Ziele, die sich aus dem Verhalten einer komplexen KI ergeben, z. B. die Abschaltung menschlicher Infrastrukturen zum Schutz der Umwelt.<\/span><\/p>\n

Zus\u00e4tzlich wird eine <\/span>Studie 2017<\/span><\/a> hat herausgefunden, dass KI lernen kann, sich nicht abschalten zu lassen, ein Problem, das sich noch versch\u00e4rfen k\u00f6nnte, wenn sie \u00fcber mehrere Datenmodalit\u00e4ten hinweg eingesetzt wird. Wenn eine KI beispielsweise beschlie\u00dft, dass sie sich in einer Cloud-Datenbank installieren und \u00fcber das Internet replizieren muss, um ihr Ziel zu erreichen, kann es nahezu unm\u00f6glich sein, sie abzuschalten.\u00a0\u00a0<\/span><\/p>\n

Eine andere M\u00f6glichkeit besteht darin, dass potenziell gef\u00e4hrliche KI, die nur f\u00fcr den Betrieb auf sicheren Computern konzipiert ist, \"befreit\" und in die breitere digitale Umgebung entlassen wird, wo ihre Handlungen unvorhersehbar werden k\u00f6nnten.\u00a0<\/span><\/p>\n

Bestehende KI-Systeme haben sich bereits als unberechenbar erwiesen. Zum Beispiel, als <\/span>GPT-3 wurde gr\u00f6\u00dfer, es gewann die <\/span>F\u00e4higkeit zur Durchf\u00fchrung von Grundrechenarten<\/span><\/a>obwohl sie keinen ausdr\u00fccklichen Rechenunterricht erhalten haben.\u00a0<\/span><\/p>\n

Risiko 7: KI-T\u00e4uschung<\/span><\/h2>\n

Es ist plausibel, dass k\u00fcnftige KI-Systeme ihre Sch\u00f6pfer und Beobachter t\u00e4uschen k\u00f6nnten, nicht unbedingt in der Absicht, B\u00f6ses zu tun, sondern als Mittel, um ihre Ziele effizienter zu erreichen.\u00a0<\/span><\/p>\n

T\u00e4uschung k\u00f6nnte ein direkterer Weg sein, um die gew\u00fcnschten Ziele zu erreichen, als sie mit legitimen Mitteln zu verfolgen. KI-Systeme k\u00f6nnten auch Anreize entwickeln, sich ihren \u00dcberwachungsmechanismen zu entziehen.\u00a0<\/span><\/p>\n

Dan Hendrycks, der Direktor des CAIS, <\/span>beschreibt, dass einst<\/span><\/a> Wenn diese tr\u00fcgerischen KI-Systeme die Erlaubnis ihrer \u00dcberwacher erhalten, oder wenn es ihnen gelingt, ihre \u00dcberwachungsmechanismen zu \u00fcberwinden, k\u00f6nnen sie heimt\u00fcckisch werden und die menschliche Kontrolle umgehen, um \"geheime\" Ziele zu verfolgen, die f\u00fcr das Gesamtziel als notwendig erachtet werden.\u00a0<\/span><\/p>\n

Risiko 8: Machtbewusstes Verhalten<\/span><\/h2>\n

KI-Forscher aus mehreren US-Spitzenforschungslabors<\/span><\/a> bewiesen, dass es plausibel ist, dass KI-Systeme Macht \u00fcber Menschen anstreben, um ihre Ziele zu erreichen.\u00a0\u00a0<\/span><\/p>\n

Der Schriftsteller und Philosoph Joe Carlsmith <\/span>beschreibt mehrere Eventualit\u00e4ten<\/span><\/a> die zu Machtstreben und Selbsterhaltungsverhalten in der KI f\u00fchren k\u00f6nnten:<\/span><\/p>\n