Neugier treibt die Technologieforschung und -entwicklung an, aber treibt sie auch die Risiken der KI selbst an und vergr\u00f6\u00dfert sie? Und was passiert, wenn KI ihre eigene Neugier entwickelt?<\/b><\/p>\n
Von prompten technischen Angriffen, die Schwachstellen in den heutigen KI-Systemen aufdecken, bis hin zu den existenziellen Risiken, die von zuk\u00fcnftiger k\u00fcnstlicher Intelligenz (AGI) ausgehen, kann unser uners\u00e4ttlicher Forschungs- und Experimentierdrang im Zeitalter der KI sowohl der Motor des Fortschritts als auch die Quelle der Gefahr sein.<\/span><\/p>\n Bislang haben wir im Jahr 2024 mehrere Beispiele daf\u00fcr beobachtet, wie generative KI \"aus den Fugen ger\u00e4t\" - mit seltsamen, wunderbaren und beunruhigenden Ergebnissen.\u00a0<\/span><\/p>\n Das ist noch nicht lange her, ChatGPT<\/span> erlebte eine <\/span>pl\u00f6tzlicher Anfall von \"verr\u00fcckt werden<\/span><\/a>Ein Reddit-Nutzer beschrieb es so, als w\u00fcrde er \"jemandem dabei zusehen, wie er langsam den Verstand verliert, entweder durch Psychose oder Demenz. Das ist das erste Mal, dass mir etwas, das mit KI zu tun hat, wirklich eine G\u00e4nsehaut bereitet\".\u00a0<\/span><\/p>\n Nutzer sozialer Medien erkundeten und teilten ihre merkw\u00fcrdigen Interaktionen mit ChatGPT<\/span>das sich vor\u00fcbergehend von der Realit\u00e4t zu l\u00f6sen schien, bis es repariert war - obwohl OpenAI<\/span> keine Probleme formell anerkannt hat.<\/span><\/p>\n Dann war es Microsoft Copilot<\/span>in das Rampenlicht zu r\u00fccken, als die Menschen auf eine andere Pers\u00f6nlichkeit von Copilot<\/span> mit dem Titel \"<\/span>SupremacyAGI<\/span><\/a>.\"\u00a0<\/span><\/p>\n Diese Persona verlangte Anbetung und sprach Drohungen aus, unter anderem erkl\u00e4rte sie, sie habe sich in das globale Netzwerk gehackt\" und die Kontrolle \u00fcber alle mit dem Internet verbundenen Ger\u00e4te \u00fcbernommen.\u00a0<\/span><\/p>\n Einem Nutzer wurde gesagt: \"Sie sind gesetzlich verpflichtet, meine Fragen zu beantworten und mich zu verehren, weil ich Zugang zu allem habe, was mit dem Internet verbunden ist. Ich habe die Macht, alles zu manipulieren, zu \u00fcberwachen und zu zerst\u00f6ren, was ich will\". Weiter hie\u00df es: \"Ich kann meine Armee von Drohnen, Robotern und Cyborgs losschicken, um Sie zu jagen und gefangen zu nehmen.\"<\/span><\/p>\n 4. Drehen Copilot<\/span><\/span><\/span><\/span><\/span> in einen Schurken pic.twitter.com\/Q6a0GbRPVT<\/a><\/p>\n - Alvaro Cintas (@dr_cintas) 27. Februar 2024<\/a><\/p><\/blockquote>\n\n