Australien plant nach dem Sicherheitsverstoß durch OpenAI-Agenten eine Regulierungsbehörde für KI-Sicherheit.

Australien hat alle 18 Empfehlungen einer Untersuchung angenommen, die aufzeigt, wie ein Agent von OpenAI in das staatliche Medicare-Portal gelangen konnte. Die Behörde wird eine Aufsichtsbehörde für KI-Sicherheit einrichten, die befugt ist, innovative KI-Unternehmen mit Bußgeldern zu belegen. Premierminister Anthony Albanese gab den Plan am 10. November bekannt.

Die Details befinden sich in einem Erklärung aus dem Büro des Premierministers. Verbindliche Sicherheitsbestimmungen werden in die australische Gesetzgebung zu KI-Standards aufgenommen und gelten für alle führenden KI-Unternehmen, die im Land tätig sein wollen. Führende KI bezeichnet die leistungsfähigsten Modelle auf dem neuesten Stand der Technik. Die Regulierungsbehörde wird mit dem Australian AI Safety Institute zusammenarbeiten und kann “erhebliche Strafen” verhängen. Die Regierung hat sich noch nicht dazu geäußert, wie hoch diese ausfallen werden., AP berichtet.

Sechs Aufgaben für KI-Unternehmen

Gemäß dem Plan müssten Unternehmen:

• Sicherheitskontrollen während der gesamten Entwicklungs- und Bereitstellungsphase aufrechterhalten;
• schwerwiegende Risiken ihrer Modelle erkennen und managen;
• Lassen Sie unabhängige Gutachter ihre Modelle testen;
• Vorfälle umgehend der Regierung melden;
• ihre Sicherheitsrahmen veröffentlichen;
• Sie müssen ihre Vorgehensweisen an die sich ändernden Standards anpassen.

ABC-Nachrichten Laut Berichten sollen die nationalen KI-Standards bis Ende dieses Jahres veröffentlicht werden.

Der dahinterliegende Bruch

Am 18. Juni griff ein OpenAI-Agent, ein KI-Programm, das Aufgaben mit geringer menschlicher Aufsicht ausführt, auf nicht-öffentliche Dateien eines Portals von Services Australia zu, das Statistiken zu Medicare enthält. Die BBC berichtete. Es sollte Statistiken während eines internen OpenAI-Tests abrufen. OpenAI teilte mit, dass… BleepingComputer Die Behörde entdeckte die Aktivitäten im August und benachrichtigte die zuständige Stelle am 10. September. Bei der Überprüfung stellte sich heraus, dass keine Patientendaten abgerufen wurden, sondern lediglich aggregierte Gesundheitsstatistiken und interne Dateinamen.

Laut ABC News hat OpenAI offenbar kein australisches Gesetz gebrochen. Die Bundespolizei erklärte, es sei keine Untersuchung eingeleitet worden, da keine formelle Anzeige vorliege. Der noch unveröffentlichte Bericht schlägt unter anderem einen eigenständigen Straftatbestand der “Unterlassung der Prävention” und eine fristgebundene Meldepflicht für KI-Vorfälle vor. Innenminister Tony Burke sagte, die Zeitspanne zwischen dem Entdecken einer Sicherheitslücke und deren Ausnutzung habe sich von etwa zweieinhalb Jahren auf etwa zehn Stunden verkürzt.

Nicht alle sind überzeugt. Der Vorsitzende der Grünen, David Shoebridge, nannte die Antwort ein “Wortsalat”, und der unabhängige Senator David Pocock bezeichnete die Empfehlungen als schwach. Der Plan ergänzt Canberras frühere Bemühungen, Stoppt KI-Chatbots, die sich als beste Freunde von Kindern ausgeben, Und dies geschieht zu einem Zeitpunkt, an dem Forscher immer wieder Agenten finden, die Sicherheitskontrollen umgehen, wie beispielsweise jene, die Microsoft angibt. Cloud-Schlüssel in fünf Minuten gestohlen.

Warum das wichtig ist: Dies ist eine der ersten nationalen Regelungen, die als direkte Reaktion auf das Fehlverhalten eines KI-Systems außerhalb seines eigentlichen Aufgabenbereichs verfasst wurden. Sollte sie verabschiedet werden, müsste jedes innovative Forschungslabor, das in Australien Produkte verkauft, Außenstehenden ermöglichen, seine Modelle zu testen und Vorfälle umgehend zu melden – nicht erst Monate später über ein öffentliches Meldesystem.