Google, Microsoft, Anthropic und OpenAI haben die Gründung des Frontier Model Forum bekannt gegeben, eines von der Industrie geleiteten Kollektivs, das sich für die Sicherung der Zukunft von KI-Modellen der ersten Stunde einsetzt.
Ziel des Frontier Model Forums ist es, eine positive Entwicklung der KI zu fördern, die Sicherheitsforschung zu verbessern, bewährte Praktiken zu ermitteln und eine gemeinsame Anlaufstelle für die Kommunikation mit der Öffentlichkeit und den Interessengruppen zu schaffen.
In Blogbeiträgen von Google und Microsoft wird hervorgehoben, dass die Mitgliedschaft im Forum auch anderen KI-Entwicklern offen steht. Zu den Gründungsmitgliedern gehören jedoch auch die von Google und Microsoft unterstützten Start-ups OpenAI und Anthropic.
Die branchenübergreifende Zusammenarbeit im Bereich der künstlichen Intelligenz war über weite Strecken des Jahres ein Gesprächsthema.
Dies ist einer der ersten konkreten Hinweise darauf, dass zumindest Microsoft und Google im Bereich der KI zusammenarbeiten werden - es wird interessant sein zu sehen, ob Meta, Amazon, Inflection und andere ebenfalls mitmachen.
Der vom Forum geprägte Begriff "Frontier-Modelle" bezeichnet groß angelegte Modelle des maschinellen Lernens, die die Fähigkeiten bestehender Modelle in den Schatten stellen. Mit ihrer Fähigkeit, eine breite Palette von Aufgaben zu erfüllen, haben diese Grenzmodelle neue Grenzen für technische Innovationen eröffnet - daher der Name.
Frontier-Modelle könnten als "generalistische Agenten" bezeichnet werden, die in der Lage sind, vielseitige, multimodale Aufgaben in zahlreichen Disziplinen auszuführen.
Die Ankündigung des Frontier Model Forum erfolgt zeitgleich mit dem zunehmenden Druck auf KI-Unternehmen, sich selbst zu regulieren, einschließlich einer vom Weißen Haus angekündigter Rahmen dem bereits sieben führende KI-Unternehmen zugestimmt haben: Google, Anthropic, Microsoft, Amazon, OpenAI, Meta und Inflection.
Was wird das Frontier Model Forum tun?
A Microsoft-Blogbeitrag skizzierte 4 Schlüsselbereiche der Forschung für das Forum:
- Fortschrittliche KI-Sicherheitsforschungh: Das Forum will die verantwortungsvolle Entwicklung von Pioniermodellen fördern, potenzielle Risiken minimieren und unabhängige, standardisierte Bewertungen von KI-Fähigkeiten und -Sicherheit ermöglichen.
- Ermittlung der besten Praktiken: Ziel ist es, verantwortungsvolle Praktiken für die Entwicklung und den Einsatz von Pioniermodellen zu skizzieren und auszutauschen sowie das öffentliche Verständnis für das Wesen, die Fähigkeiten, die Grenzen und die Auswirkungen der KI-Technologie zu fördern.
- Förderung der Zusammenarbeit: Die Mitglieder wollen ihr Wissen über Vertrauens- und Sicherheitsrisiken mit politischen Entscheidungsträgern, Wissenschaftlern, der Zivilgesellschaft und anderen Unternehmen der Branche teilen.
- Bewältigung gesellschaftlicher Herausforderungen: Das Forum unterstützt die Entwicklung von KI-Anwendungen zur Bewältigung einiger großer gesellschaftlicher Herausforderungen wie Klimawandel, Krebsfrüherkennung und -prävention sowie Cybersicherheitsbedrohungen.
In den kommenden Monaten wird das Frontier Model Forum einen Beirat einrichten, der die Strategie und die Prioritäten des Forums lenken soll. Eine Arbeitsgruppe und ein Exekutivrat werden wichtige institutionelle Vereinbarungen treffen, darunter eine Charta, die Leitung und die Finanzierung.
Das Forum beabsichtigt außerdem, sich in den kommenden Wochen mit der Zivilgesellschaft und Regierungen über die Gestaltung des Forums und mögliche Wege der Zusammenarbeit zu beraten. Dazu gehört auch die Unterstützung multilateraler Initiativen wie des Hiroshima-Prozesses der G7, der Arbeit der OECD zu KI-Risiken und des Handels- und Technologierats zwischen den USA und der EU.
Branchenführer äußern sich
Führungskräfte und Forscher aus allen vier derzeitigen Mitgliedern des Forums haben ihre Absicht erörtert, gemeinsam an der Zukunft der KI zu arbeiten.
Kent Walker, President of Global Affairs bei Google & Alphabet, sagte: "Wir freuen uns, mit anderen führenden Unternehmen zusammenzuarbeiten und technisches Fachwissen zu teilen, um verantwortungsvolle KI-Innovationen zu fördern. Das Engagement von Unternehmen, Regierungen und der Zivilgesellschaft ist unerlässlich, um das Versprechen der KI zum Nutzen aller zu erfüllen.
Brad Smith, Vice Chair & President bei Microsoft, schloss sich Walkers Meinung an. Er betonte die Verantwortung der Unternehmen, die an der Spitze der KI-Entwicklung stehen: "Unternehmen, die KI-Technologien entwickeln, sind dafür verantwortlich, dass diese sicher sind und unter menschlicher Kontrolle bleiben. Diese Initiative ist ein wichtiger Schritt, um den Technologiesektor bei der verantwortungsvollen Weiterentwicklung der KI und der Bewältigung der Herausforderungen zusammenzubringen, damit sie der gesamten Menschheit zugute kommt."
Anna Makanju, Vizepräsidentin für globale Angelegenheiten bei OpenAI, hob das Gleichgewicht zwischen den Vorteilen und der notwendigen Aufsicht über fortschrittliche KI hervor und erklärte: "Fortgeschrittene KI-Technologien haben das Potenzial, der Gesellschaft einen großen Nutzen zu bringen. Es ist von entscheidender Bedeutung, dass sich die KI-Unternehmen - insbesondere diejenigen, die an den leistungsfähigsten Modellen arbeiten - auf eine gemeinsame Basis einigen und durchdachte und anpassungsfähige Sicherheitspraktiken vorantreiben, um sicherzustellen, dass leistungsstarke KI-Tools den größtmöglichen Nutzen haben. Dies ist eine dringende Aufgabe, und dieses Forum ist gut positioniert, um schnell zu handeln und den Stand der KI-Sicherheit voranzubringen."
Dario Amodei, CEO von Anthropic, bekräftigte das Potenzial der KI, die Welt neu zu gestalten: "Anthropic glaubt, dass KI das Potenzial hat, die Welt grundlegend zu verändern. Wir freuen uns darauf, mit der Industrie, der Zivilgesellschaft, der Regierung und der Wissenschaft zusammenzuarbeiten, um eine sichere und verantwortungsvolle Entwicklung der Technologie zu fördern. Das Frontier Model Forum wird eine wichtige Rolle bei der Koordinierung von Best Practices und dem Austausch von Forschungsergebnissen zur Sicherheit von KI spielen."
Die Technologieunternehmen scheinen den Grundstein für eine neue Ära extrem intelligenter KI zu legen, und die Dinge entwickeln sich rasch, denn erst Anfang dieses Jahres haben Politiker aus der EU und den USA begonnen, die unmittelbare Zusammenarbeit der Industrie zu fördern.
