{"id":12729,"date":"2024-06-05T09:50:37","date_gmt":"2024-06-05T09:50:37","guid":{"rendered":"https:\/\/dailyai.com\/?p=12729"},"modified":"2024-06-05T09:50:37","modified_gmt":"2024-06-05T09:50:37","slug":"former-openai-employees-publish-right-to-warn-open-letter","status":"publish","type":"post","link":"https:\/\/dailyai.com\/de\/2024\/06\/former-openai-employees-publish-right-to-warn-open-letter\/","title":{"rendered":"Ehemalige OpenAI-Mitarbeiter ver\u00f6ffentlichen offenen Brief \"Recht auf Warnung"},"content":{"rendered":"

Eine Gruppe ehemaliger und aktueller Mitarbeiter von OpenAI und Google r\u00fcgt die KI-Unternehmen wegen der ihrer Meinung nach gef\u00e4hrlichen Geheimhaltungskultur in Bezug auf KI-Risiken.<\/strong><\/p>\n

In dem Schreiben mit dem Titel \"Ein Recht auf Warnung vor fortgeschrittener k\u00fcnstlicher Intelligenz\" hei\u00dft es, dass KI-Unternehmen starke finanzielle Anreize haben, eine wirksame Aufsicht \u00fcber potenzielle KI-Risiken zu vermeiden.<\/p>\n

Abgesehen davon, dass es r\u00fccksichtslos ist, sich auf finanzielle Ziele statt auf die Sicherheit zu konzentrieren, hei\u00dft es in dem Schreiben, dass Unternehmen strafbewehrte Vertraulichkeitsvereinbarungen verwenden, um Mitarbeiter aktiv davon abzuhalten, Bedenken zu \u00e4u\u00dfern.<\/p>\n

Die Unterzeichner sind alle ehemalige OpenAI- und Google-Mitarbeiter, wobei Neel Nanda der einzige ist, der noch bei Google arbeitet. Der Brief wurde auch von den f\u00fchrenden KI-Experten Yoshua Bengio, Geoffrey Hinton und Stuart Russell unterst\u00fctzt.<\/p>\n

6 der Unterzeichner waren nicht bereit, ihre Namen in dem Schreiben preiszugeben, was die Bedenken gegen die Nennung ihrer ehemaligen Arbeitgeber belegt.<\/p>\n

Die ehemaligen OpenAI-Forscher Daniel Kokotajlo und William Saunders, die den Brief ebenfalls unterzeichnet haben, verlie\u00dfen das Unternehmen Anfang dieses Jahres.<\/p>\n

Kokotajlo geh\u00f6rte dem Governance-Team an, und Saunders arbeitete im Superalignment-Team von OpenAI, das letzten Monat aufgel\u00f6st wurde, als Ilya Sutskever und Jan Leikealso verlie\u00dfen ebenfalls wegen Sicherheitsbedenken<\/a>.<\/p>\n

Kokotajlo erkl\u00e4rte seinen Austritt in einem Forum und sagte, er glaube nicht, dass sich OpenAI \"in der Zeit von AGI verantwortungsvoll verhalten wird\".<\/p>\n

Ein Aufruf zum Handeln<\/h2>\n

In dem Schreiben wird ein st\u00e4rkeres Engagement der KI-Unternehmen gefordert, da es keine Vorschriften f\u00fcr KI-Risiken gibt, die der \u00d6ffentlichkeit nicht bekannt sind.<\/p>\n

In dem Schreiben hei\u00dft es: \"Der \u00fcbliche Schutz von Hinweisgebern ist unzureichend, da er sich auf illegale Aktivit\u00e4ten konzentriert, w\u00e4hrend viele der Risiken, \u00fcber die wir besorgt sind, noch nicht geregelt sind.<\/p>\n

In dem Schreiben werden die KI-Unternehmen aufgefordert, sich zu vier Grunds\u00e4tzen zu verpflichten. Kurz gesagt, sie wollen, dass die Unternehmen:<\/p>\n