OpenAI hat eine einzigartige Vereinbarung mit der US-Regierung über die Zusammenarbeit bei der KI-Sicherheitsforschung und -bewertung unterzeichnet.
Am Donnerstag hat die U.S.. Institut für Künstliche Intelligenz und Sicherheit, Teil des National Institute of Standards and Technology (NIST), gab bekannt, dass es sowohl mit OpenAI als auch mit dem Konkurrenten Anthropic Vereinbarungen getroffen hat.
Das Geschäft kommt zu einem Zeitpunkt zustande, an dem das Unternehmen Berichten zufolge in Gesprächen ist, um eine Finanzierung mit einer schwindelerregenden Bewertung von $100 Milliarden aufzubringen. Dies zeigt, dass OpenAI trotz einer langsameren Phase des Fortschritts immer noch sehr stark in die Zukunft drängt.
Durch die Partnerschaften erhält die Regierung Zugang zu wichtigen neuen KI-Modellen vor und nach ihrer Veröffentlichung, obwohl es schwierig ist, genau zu erkennen, worauf dies hinausläuft.
Man kann mit Fug und Recht behaupten, dass nicht einmal die KI-Entwickler selbst wirklich verstehen, wie ihre Modelle funktionieren, so dass der Nutzen für das NIST begrenzt sein könnte. Nichtsdestotrotz ist dies ein Versuch, die staatliche Aufsicht über geheimnisvolle KI-Modelle zu vertiefen.
Wir freuen uns, dass wir eine Vereinbarung mit der US AI Safety Institute für Vorabtests unserer zukünftigen Modelle.
Wir halten es aus vielen Gründen für wichtig, dass dies auf nationaler Ebene geschieht. US muss weiterhin die Führung übernehmen!
- Sam Altman (@sama) 29. August 2024
"Sichere, vertrauenswürdige KI ist entscheidend für die positiven Auswirkungen der Technologie", sagte Jason Kwon, Chief Strategy Officer bei OpenAI. "Wir glauben, dass das Institut eine entscheidende Rolle bei der Definition der Führungsrolle der USA bei der verantwortungsvollen Entwicklung künstlicher Intelligenz spielen muss.
Elizabeth Kelly, Direktorin des U.S. AI Safety Institute, bezeichnete die Vereinbarungen als "einen wichtigen Meilenstein auf dem Weg zu einem verantwortungsvollen Umgang mit der Zukunft der KI".
Im Rahmen der Vereinbarung wird das Institut OpenAI Feedback zu potenziellen Sicherheitsverbesserungen an ihren Modellen geben und dabei eng mit dem UK AI Safety Institute zusammenarbeiten, das ebenfalls gewünschter Zugang zum Innenleben der KI-Modelle.
Im Rahmen der Bemühungen der Regierung Biden um die Regulierung der KI haben die Vereinbarungen lange auf sich warten lassen. Aach Bidens DurchführungsverordnungMit dem im Oktober 2023 unterzeichneten Vertrag über die Einführung von KI in den USA ist die KI-Governance langsam in Gang gekommen, auch wenn einige behaupten, dass die Fortschritte noch sehr zu wünschen übrig lassen.
Der Zeitpunkt der Vereinbarung ist aus zwei Gründen bemerkenswert. Erstens kommt sie zu einem Zeitpunkt, zu dem OpenAI Berichten zufolge in Gesprächen ist, um eine neue Runde aufbringen eine Finanzierung, die dem Unternehmen einen Wert von über $100 Milliarden einbringen würde.
Diese astronomische Zahl stellt eine mehr als dreifache Steigerung gegenüber der im letzten Jahr gemeldeten Bewertung von $29 Milliarden dar.
Laut Quellen, die mit der Angelegenheit vertraut sind, wird die Risikokapitalfirma Thrive Capital die Runde mit einer Investition von $1 Milliarde anführen. Der Tech-Gigant Microsoft, bereits der größte Geldgeber von OpenAI, soll sich ebenfalls an der Finanzierung beteiligen.
Zweitens steht OpenAI Berichten zufolge kurz vor der Veröffentlichung eines neuen Produkts, GPT -5, SucheGPToder eine andere Variante mit dem Codenamen "Projekt Erdbeere."
Projekt Strawberry, ursprünglich Q* genannt, kombiniert angeblich ein KI-Modell mit einem autonomen KI-Agenten, der im Internet surfen kann.
Entscheidend ist, dass OpenAI Berichten zufolge US-Sicherheitsbeamten Strawberry vorgeführt hat, was Teil dieser neuen Vereinbarung mit dem AI Safety Institute und dem NIST gewesen sein könnte.
Um OpenAI ist es alles in allem ziemlich ruhig geworden. GPT-4o wurde als großer Fortschritt angepriesen, aber sein Kronjuwel - die Voice-Chat-Funktion - hat noch keine Masseneinführung erlebt. Als Grund für die Verzögerung nannte OpenAI Sicherheits- und regulatorische Hindernisse.
Könnte es sein, dass OpenAI diese neue Partnerschaft eingeht, um solche Probleme in Zukunft zu vermeiden?
