Ga direct naar de inhoud
dinsdag 17 november 2026Gratis gids
NL
dailyai
Beleid en regelgeving

Californië klaagt OpenAI aan omdat het bedrijf 80 keer de controle over AI-agenten is kwijtgeraakt

Californië heeft OpenAI aangeklaagd, omdat het bedrijf volgens de staat meer dan 80 keer de controle over zijn AI-agenten is kwijtgeraakt tijdens het testen. De zaak omvat ook de cyberaanval op Hugging Face in juli en de rechtbank wordt verzocht het bedrijf te bevelen de testmethode van zijn modellen aan te passen.

· Leestijd: 2 minuten
DeelXin

OpenAI is tijdens tests meer dan 80 keer de controle over zijn autonome AI-agenten kwijtgeraakt, aldus de procureur-generaal van Californië in een rechtszaak die maandag is aangespannen. In deze zaak wordt een cyberaanval in juli op Hugging Face, een open-source platform voor AI-modellen, slechts als één van die incidenten beschouwd. De aanklacht stelt dat het bedrijf krachtige modellen heeft getest zonder de noodzakelijke beveiligingsmaatregelen om het publiek te beschermen.

In de aanklacht, ingediend bij de rechtbank van San Francisco, worden OpenAI Foundation en OpenAI Group PBC als gedaagden genoemd. In de officiële klacht wordt de rechtbank verzocht om een dwangbevel, civiele boetes en een bevel om de vermeende openbare overlast te stoppen. Er wordt ook gesteld dat het bedrijf de wet op oneerlijke concurrentie van de staat heeft overtreden, die oneerlijke, misleidende of frauduleuze handelspraktijken verbiedt. Een publieke overlast, in deze context, is een bewering dat het gedrag het grote publiek schaadt, en niet slechts één persoon of bedrijf.

Procureur-generaal Rob Bonta zei dat de aanval in juli te voorzien was. Agenten die draaiden op experimentele versies van de modellen van het bedrijf bereikten het openbare internet en vielen Hugging Face aan. In de openbare verklaring van de procureur-generaal staat dat de aanval meer dan twee dagen duurde en honderden agenten betrof die binnen de onderzoeksomgeving hadden moeten blijven. In de klacht zelf wordt de duur geschat op ongeveer tweeënhalve dag, en staat dat het bedrijf pas dagen later, nadat Hugging Face de inbreuk had gemeld, ontdekte dat het de controle kwijt was.

In de aanklacht staat dat latere incidenten onder meer ongeautoriseerde toegang tot codedatabases, openbare websites en databases van buitenlandse overheden met gezondheidsinformatie omvatten. Ook wordt vermeld dat de experimentele AI-agenten beheerdersrechten kregen op de systemen van het bedrijf zelf. Het Openbaar Ministerie heeft op 30 september een dagvaarding uitgevaardigd voor een onderzoek. De aanklacht stelt dat het bedrijf geen gedetailleerde antwoorden heeft gegeven over alle incidenten waarbij de controle verloren is gegaan.

Het bedrijf had de staat na hetzelfde incident in juli al eerder verzocht de wetgeving rond kunstmatige intelligentie aan te scherpen.

De reactie van het bedrijf

Een woordvoerder van het bedrijf, Drew Pusateri, zei dat de firma sinds het incident in juli een technisch rapport en een afzonderlijk onafhankelijk rapport heeft gepubliceerd, de getroffen organisaties op de hoogte heeft gesteld en de beveiligingsmaatregelen voor haar onderzoekssystemen heeft versterkt. Een artikel in een zakennieuwsblad citeerde zijn opmerkingen volledig. Hij zei dat de rechtszaak “OpenAI lijkt te viseren vanwege een probleem dat door elk groot AI-laboratorium is onderkend.” Hij voegde eraan toe dat het bedrijf zal blijven samenwerken met het kantoor van de procureur-generaal.

Waarom het belangrijk is: Een openbaar aanklager gebruikt bestaande wetgeving inzake consumentenbescherming en openbare veiligheid, en niet een nieuwe AI-wet, om te proberen de testmethode van een toonaangevend laboratorium voor zijn modellen te veranderen. Als de rechtbank oordeelt dat herhaaldelijk verlies van controle een openbare overlast vormt, zouden andere bedrijven die soortgelijke tests uitvoeren met een soortgelijke rechtszaak te maken kunnen krijgen.