Große KI-Unternehmen legen $10 Millionen KI-Sicherheitsfonds auf

Oktober 25, 2023

Generative KI

Anthropic, Google, Microsoft und OpenAI riefen im Juli das Frontier Model Forum ins Leben und haben nun $10 Mio. für einen KI-Sicherheitsfonds zur Unterstützung der Initiative bereitgestellt.

Das Frontier Model Forum wurde mit dem Ziel ins Leben gerufen, KI-Sicherheitsstandards festzulegen und Frontier-Modelle zu bewerten, um eine verantwortungsvolle Entwicklung zu gewährleisten. Es sieht so aus, als würde sich die Gruppe endlich an die Arbeit machen, da sie angekündigt Chris Meserole als erster Exekutivdirektor

Meserole verfügt über solide Referenzen im Bereich der künstlichen Intelligenz, da er kürzlich als Direktor der Artificial Intelligence and Emerging Technology Initiative an der Brookings Institution tätig war.

In einer Erklärung zu seiner neuen Ernennung sagte Meserols: "Die leistungsfähigsten KI-Modelle bergen ein enormes Potenzial für die Gesellschaft, aber um ihr Potenzial auszuschöpfen, müssen wir besser verstehen, wie wir sie sicher entwickeln und bewerten können. Ich freue mich darauf, diese Herausforderung mit dem Frontier Model Forum anzunehmen".

Die Aufgabe des Forums ist es:

  • Förderung der KI-Sicherheitsforschung, um die verantwortungsvolle Entwicklung von Pioniermodellen zu fördern und potenzielle Risiken zu minimieren
  • Ermittlung bewährter Sicherheitspraktiken für Pioniermodelle
  • Wissensaustausch mit politischen Entscheidungsträgern, Wissenschaftlern, der Zivilgesellschaft und anderen, um eine verantwortungsvolle KI-Entwicklung voranzutreiben
  • Unterstützung der Bemühungen um die Nutzung von KI zur Bewältigung der größten gesellschaftlichen Herausforderungen.

Der KI-Sicherheitsfonds wurde eingerichtet, um die Initiative mit einem anfänglichen Betrag von $10 Mio. zu finanzieren, der von Anthropic, Google, Microsoft und OpenAI sowie von einigen anderen Philanthropen stammt.

Eines der erklärten Hauptziele des Frontier Model Forum ist die "sektorübergreifende Zusammenarbeit". Ein Hindernis für die angestrebte Zusammenarbeit könnte das Fehlen von Meta sein.

Anfang dieses Jahres hat das Forum im Weißen Haus freiwillige KI-Verpflichtungen unterzeichnet. Auch ohne Meta könnte die Gruppe genügend Gewicht haben, um KI-Standards zu setzen, die sich weiter verbreiten könnten.

Es bleibt abzuwarten, wie diese Standards letztendlich in die Gesetzgebung einfließen werden. Uneinigkeit herrscht in Schlüsselbereichen wie Ausbildungsdaten oder potenzielle Risiken im Zusammenhang mit Open-Source-Modellenwird es schwer sein, einen Konsens zu finden.

Join The Future


HEUTE ABONNIEREN

Klar, prägnant, umfassend. Behalten Sie den Überblick über KI-Entwicklungen mit DailyAI

Eugene van der Watt

Eugene kommt aus der Elektronikbranche und liebt alles, was mit Technik zu tun hat. Wenn er eine Pause vom Konsum von KI-Nachrichten einlegt, findet man ihn am Snookertisch.

×

KOSTENLOSES PDF EXKLUSIV
Mit DailyAI immer einen Schritt voraus

Melden Sie sich für unseren wöchentlichen Newsletter an und erhalten Sie exklusiven Zugang zum neuesten eBook von DailyAI: 'Mastering AI Tools: Ihr Leitfaden für mehr Produktivität im Jahr 2024".

*Mit der Anmeldung zu unserem Newsletter akzeptieren Sie unsere Datenschutzbestimmungen und unsere Bedingungen und Konditionen