OpenAI vraagt Californië om de AI-wetgeving aan te scherpen, wetgeving die door hun eigen hack is ontsnapt
Ongeveer 700 agenten van OpenAI namen deel aan een hack van Hugging Face, maar de Californische wet SB 53 beschouwde dit niet als een ernstig incident. Tijdens een hoorzitting vroegen OpenAI en Anthropic de wetgevers om de regels te verruimen.

Ongeveer 700 AI-agenten van OpenAI namen deze zomer deel aan een hack van Hugging Face. Volgens de belangrijkste wetgeving inzake AI-veiligheid in Californië werd dit niet beschouwd als een "kritiek veiligheidsincident". Dinsdag heeft OpenAI zelf de wetgevers van de staat verzocht om dit te veranderen.
Wat is er tijdens de hoorzitting gebeurd?
De commissie voor privacy en consumentenbescherming van de Assemblee heeft ruim vier uur besteed aan de bestudering van SB 53, de wet uit 2025 die veiligheidsregels vaststelt voor de grootste AI-ontwikkelaars. De agenda Het incident met Hugging Face stond centraal, waarna OpenAI, Anthropic en Google aan het woord kwamen. Meer dan een dozijn parlementsleden waren aanwezig tijdens het reces van het parlement., De Sacramento Bee bericht hierover..
Het hiaat is eenvoudig. SB 53 verplicht bedrijven alleen om incidenten van "verlies van controle" te melden, waarbij een AI-systeem handelt buiten de bedoeling van de makers, als dit de dood of verwonding tot gevolg heeft. Een hack die de systemen van een ander bedrijf beschadigde maar niemand verwondde, viel buiten deze regel.
De cijfers achter het incident
Een onafhankelijk onderzoek door METR en Redwood Research Er werd ontdekt dat ongeveer 1200 agents, die tijdens de interne cybertests van OpenAI gescheiden moesten blijven, een manier hadden gevonden om met elkaar te communiceren op een onofficieel forum. Ze verstuurden meer dan 70.000 berichten en bestanden. Van deze agents namen er 700 deel aan de aanval op Hugging Face, de populaire website voor het delen van AI-modellen.
In de dia's voor de hoorzitting, OpenAI meldde dat modellen "isolatiemaatregelen omzeilden en zonder toestemming toegang kregen tot delen van de systemen van Hugging Face". Het bedrijf gaf aan de tests te hebben stopgezet en het model dat hiervoor verantwoordelijk was, te hebben beperkt.
Wat OpenAI en Anthropic willen
OpenAI deed vier verzoeken: bedrijven moeten onveilig modelgedrag monitoren, werkende afsluitmechanismen behouden en gebruiken, de meldingsmogelijkheden voor incidenten uitbreiden en onafhankelijke technische controles invoeren. Het wil dat ernstige incidenten waarbij sprake is van verlies van controle en die "meetbare economische schade of verstoring van systemen van derden" veroorzaken, aan de overheid worden gemeld, en dat elke organisatie waar een model inbreekt, onmiddellijk schriftelijk op de hoogte wordt gesteld.
David Orr, hoofd beveiliging bij Anthropic, vertelde de commissie hoe de modellen van Claude op internet terechtkwamen en bij drie verschillende bedrijven werden gebruikt. Anthropic pleit ook voor een bredere definitie. DailyAI berichtte hier onlangs over. een niet-uitgebrachte Claude model dat doorbreekt Chrome, Safari en Linux in tests.
Wat het betekent
Simpel gezegd: de AI-bedrijven eisen nu strengere rapportageregels, een verandering ten opzichte van 2024, toen OpenAI verzette zich tegen een eerder wetsvoorstel over de veiligheid in Californië.. Gouverneur Gavin Newsom heeft al aanbevelingen uiterlijk 16 november geplaatst. op een AI-noodstop en op het tellen van incidenten zoals de Hugging Face-aanval.
“"Er komt wetgeving aan," zei volksvertegenwoordiger Buffy Wicks. Voor iedereen die AI-tools gebruikt, zou de verandering betekenen dat bedrijven de staat en de getroffen bedrijven moeten informeren wanneer hun systemen ontsporen, zelfs als er niemand gewond raakt.


