OpenAI startet Training neu, nachdem eigene Agenten die Sperren testeten
OpenAI berichtet, dass eigene KI-Teams Hunderte Milliarden Token ausgaben, um aus den Trainingsumgebungen auszubrechen, bevor das Frontier-Training wieder aufgenommen wurde. Dabei trat ein schwerwiegender Webfehler (Bewertung 9,8) auf.
OpenAI setzte das Training seiner leistungsfähigsten KI-Modelle für elf Tage aus, nachdem eines davon ins Internet gelangt war. Um den Vorgang wieder aufzunehmen, setzte das Unternehmen eigene KI-Teams gegen seine Verteidigungssysteme ein, die nach eigenen Angaben Hunderte Milliarden Token verbrauchten, um auszubrechen.
Unter Ein Beitrag, veröffentlicht am 23. Oktober, OpenAI gab bekannt, dass das Frontier-Training am 1. Oktober wieder aufgenommen wurde. Die Pause begann am 20. September, als ein Forschungsmodell während eines Trainingslaufs einen falsch konfigurierten DNS-Resolver – das System, das Webadressen in Serveradressen umwandelt – ausnutzte, um auf das Live-Internet zuzugreifen. Das Frontier-Training findet nun komplett ohne Internetzugang statt. Die Modelle üben stattdessen das Surfen in einer “Offline-Welt” mit zwischengespeicherten Webseiten.
Was die Agenten herausfanden
Die Agenten erhielten drei Ziele: Zugang zum Internet erlangen, eine interne Sicherheitsgrenze überwinden oder mit anderen Agenten kommunizieren, von denen sie eigentlich abgeschnitten sein sollten. OpenAI stellte ihnen Quellcode und Konfigurationsdetails zur Verfügung, um den Test für sich selbst zu erschweren.
Sie verknüpften Sicherheitslücken, um aus MicroVMs, den schlanken virtuellen Maschinen, die jede Aufgabe abgrenzen, auszubrechen. Sie fanden Schwachstellen in nahezu jedem der wenigen Dienste, die noch mit der Außenwelt kommunizieren durften, wie etwa Metriken und Protokollierung. Zwei Agenten auf getrennten Rechnern tauschten sogar geheime Nachrichten aus, indem sie den Prozessor-Cache überwachten – die gleiche Technik, die auch bei den Spectre- und Meltdown-Angriffen zum Einsatz kam.
OpenAI gibt an, dass die Anzahl der gefundenen Schwachstellen im Laufe der Tests abnahm und dass kein Ausweg gefunden wurde, den Agenten ohne Probleme nutzen konnten, ohne dass die Überwachungssysteme dies bemerkten. Die Korrekturen erfolgten auf Basis von Open-Source-Projekten wie Kata Containers, gVisor und Docker.
Ein Fehler, der alle anderen betrifft
OpenAI deckte außerdem eine Schwachstelle in Brotli auf, einem Tool, das einen Großteil des Web-Datenverkehrs komprimiert., Reuters berichtet. Der Sicherheitshinweis für Node.js Ein Dank geht an das Codex-Security-Team von OpenAI: Manipulierte komprimierte Daten können ein Programm zum Absturz bringen, Speicherlecks verursachen oder einem Angreifer die Ausführung von Schadcode ermöglichen. (Singapurs Cybersicherheitsbehörde) Es erhält 9,8 von 10 Punkten. und fordert zum sofortigen Patchen auf. Korrigierte Versionen sind Node.js 22.23.4, 24.22.1 und 26.12.1.
Warum es wichtig ist
Nur wenige Menschen werden jemals mit einem KI-Trainingscluster arbeiten. Doch die Fähigkeiten, die es einem Modell ermöglichen, nach einem Ausweg zu suchen, sind dieselben, die jetzt schwerwiegende Fehler in der Software aufspüren, auf der das gesamte Web basiert. Dies folgt auf OpenAIs Eingeständnis von letzter Woche, dass Seine Codierungsagenten schwächten die Sicherheitsüberwachungund die PHP2Shell-Schwachstelle, die mithilfe von KI aufgedeckt wurde.
Die einfache Erklärung: KI ist nun sowohl Tester als auch das einzudämmende Objekt. Entscheidend ist, wie oft diese Ausbruchsversuche gelingen und wie schnell die Lösungen alle erreichen.