OpenAI hat k\u00fcrzlich bekannt gegeben, dass der Vorstand die Befugnis hat, Entscheidungen des CEO \u00fcber die Ver\u00f6ffentlichung neuer KI-Modelle zu \u00fcberstimmen, selbst wenn diese von der Unternehmensleitung als sicher eingestuft wurden.\u00a0<\/b><\/p>\n
Diese Informationen sind in einer Reihe von Leitlinien enthalten, die am Montag vorgestellt wurden und die Strategie des Unternehmens zur Bew\u00e4ltigung potenzieller extremer Risiken, die von seinen fortschrittlichsten KI-Systemen ausgehen, beschreiben.\u00a0<\/span><\/p>\n W\u00e4hrend das F\u00fchrungsteam zun\u00e4chst \u00fcber die Freigabe eines neuen KI-Systems entscheiden kann, beh\u00e4lt sich der Vorstand das Recht vor, solche Entscheidungen r\u00fcckg\u00e4ngig zu machen.<\/span><\/p>\n Sam Altman, der CEO von OpenAI, wurde entlassen und auf dramatische Weise wieder eingestellt, was eine merkw\u00fcrdige Machtdynamik zwischen den Direktoren und den F\u00fchrungskr\u00e4ften des Unternehmens verdeutlicht.\u00a0<\/span><\/p>\n In der Folgezeit spekulierten viele, dass Altman nicht ausreichend auf die Sicherheit der Modelle geachtet hatte, dass er sozusagen von seiner Arbeit \"mitgerissen\" worden war. Sp\u00e4tere Berichte lie\u00dfen daran Zweifel aufkommen, darunter auch der Pr\u00e4sident von Microsoft, Brad Smith, <\/span>der sagte, er halte es f\u00fcr unwahrscheinlich<\/span><\/a> dass die Sicherheit das Hauptmotiv war.\u00a0<\/span><\/p>\n Hinzu kam, dass OpenAI eine enorme Bewertung erhalten hatte und die Mitarbeiter ihre Aktienoptionen einl\u00f6sen wollten.\u00a0<\/span><\/p>\n Business Insider behauptet<\/span><\/a> dass OpenAI-Mitarbeiter ihren offenen Brief, in dem sie erkl\u00e4rten, dass sie das Unternehmen verlassen w\u00fcrden, wenn Altman nicht wieder eingestellt w\u00fcrde, als Druckmittel einsetzten. Ein Mitarbeiter sagte sogar, er sei ein schlechter CEO, obwohl diese Berichte unbest\u00e4tigt sind.\u00a0<\/span><\/p>\n OpenAI hat nun gehandelt, um Bef\u00fcrchtungen zu zerstreuen, dass sie KI nicht sicher einsetzen, indem sie zun\u00e4chst die Ergebnisse ihrer neuen \"<\/span>Experiment \"Superalignment<\/span><\/a>\u00a0und auch durch die Aufstockung der \"Befugnisse\" ihres \"Bereitschaftsteams\".\u00a0<\/span><\/p>\n OpenAIs <\/span>Bereitschaftsteam<\/span><\/a>unter der Leitung von Aleksander Madry, der derzeit vom MIT beurlaubt ist, bewerten kontinuierlich KI-Systeme in verschiedenen Risikokategorien, darunter Cybersicherheit und Bedrohungen im Zusammenhang mit chemischen, nuklearen und biologischen Stoffen.\u00a0<\/span><\/p>\n Dieses Team soll alle erheblichen Gefahren, die mit der Technologie verbunden sind, ermitteln und eind\u00e4mmen. Nach den Leitlinien k\u00f6nnten Risiken, die als \"katastrophal\" eingestuft werden, zu erheblichen wirtschaftlichen Sch\u00e4den oder schwerwiegenden Beeintr\u00e4chtigungen f\u00fcr viele Menschen f\u00fchren.<\/span><\/p>\n Madry erl\u00e4uterte den Prozess: \"KI ist nicht etwas, das uns einfach passiert und das gut oder schlecht sein kann. Es ist etwas, das wir gestalten.\" Er gab seiner Hoffnung Ausdruck, dass andere Unternehmen die OpenAI-Leitlinien f\u00fcr die Risikobewertung \u00fcbernehmen w\u00fcrden.\u00a0<\/span><\/p>\n Sein Team, das im Oktober als Teil von drei separaten Gruppen gebildet wurde, die die KI-Sicherheit bei OpenAI \u00fcberwachen, wird unver\u00f6ffentlichte KI-Modelle bewerten und die wahrgenommenen Risiken als \"niedrig\", \"mittel\", \"hoch\" oder \"kritisch\" einstufen. Nur Modelle, die als \"mittel\" oder \"niedrig\" eingestuft werden, kommen f\u00fcr die Ver\u00f6ffentlichung in Frage.<\/span><\/p>\n Wir systematisieren unser Sicherheitsdenken mit unserem Preparedness Framework, einem lebenden Dokument (derzeit in der Beta-Phase), in dem die technischen und betrieblichen Investitionen aufgef\u00fchrt sind, die wir zur Gew\u00e4hrleistung der Sicherheit bei der Entwicklung unserer Pioniermodelle vornehmen.https:\/\/t.co\/vWvvmR9tpP<\/a><\/p>\n - OpenAI (@OpenAI) 18. Dezember 2023<\/a><\/p><\/blockquote>\n\n