Forscher des Meaning Alignment Institute haben einen neuen Ansatz, Moral Graph Elicitation (MGE), vorgeschlagen, um KI-Systeme mit menschlichen Werten in Einklang zu bringen.<\/b><\/p>\n
Da KI immer fortschrittlicher wird und in unser t\u00e4gliches Leben integriert wird, ist es von gr\u00f6\u00dfter Bedeutung, dass sie allen Menschen dient und sie fair repr\u00e4sentiert. Doch t<\/span>seine <\/span>Studie<\/span><\/a> argumentiert, dass die Ausrichtung der KI auf die Ziele des Nutzers allein noch keine Sicherheit garantiert.<\/span><\/p>\n \u00a0\"KI-Systeme werden in Kontexten eingesetzt werden, in denen das blinde Befolgen der Absicht des Betreibers als Nebenprodukt Schaden anrichten kann. Dies zeigt sich am deutlichsten in Umgebungen mit Wettbewerbsdynamik, wie politischen Kampagnen oder der Verwaltung von Finanzanlagen\", so die Forscher.\u00a0<\/span><\/p>\n Der Grund daf\u00fcr ist, dass KI-Modelle so konzipiert sind, dass sie dem Benutzer dienen. Wenn der Nutzer einem Modell Anweisungen f\u00fcr ruchlose Zwecke erteilt, k\u00f6nnte das Modell in seinem Bestreben, dem Nutzer zu dienen, die Leitplanken umgehen und gehorchen.<\/p>\n Eine L\u00f6sung besteht darin, die KI mit einer Reihe von Werten zu \"impr\u00e4gnieren\", die sie jedes Mal abfragt, wenn sie dazu aufgefordert wird.<\/p>\n Die Frage ist: Woher kommen diese Werte? Und k\u00f6nnen sie die Menschen gleichberechtigt vertreten?<\/p>\n \"Was sind menschliche Werte und wie k\u00f6nnen wir uns an ihnen orientieren?\"<\/p>\n Wir freuen uns sehr \u00fcber die Ver\u00f6ffentlichung unseres neuen Papiers zur Werteausrichtung, das wir gemeinsam mit folgenden Autoren verfasst haben @ryan_t_lowe<\/a> und finanziert von @openai<\/a>.<\/p>\n \ud83d\udcdd: https:\/\/t.co\/iioFKmrDZA<\/a> pic.twitter.com\/NSJa8dbcrM<\/a><\/p>\n - Joe Edelman (@edelwax) 29. M\u00e4rz 2024<\/a><\/p><\/blockquote>\n\n