Ga direct naar de inhoud
donderdag 19 november 2026Gratis gids
NL
dailyai
Beleid en regelgeving

Californië eist dat AI-incidenten binnen 48 uur worden gemeld en dat modellen worden uitgeschakeld

Californië heeft voorgesteld de meeste meldingen van kritieke incidenten met betrekking tot de veiligheid van AI te verkorten van 15 dagen naar 48 uur, en de staat de bevoegdheid te geven een model in een noodsituatie uit te schakelen. Het rapport van 16 november, dat woensdag werd gepubliceerd, is een plan voor nieuwe wetgeving, geen reeds van kracht zijnde wet.

· Leestijd: 2 minuten
DeelXin

Het California Government Operations Agency heeft wetgevers aanbevolen de deadline voor de meeste meldingen van kritieke incidenten met betrekking tot de veiligheid van AI te verkorten van 15 dagen naar 48 uur, en de staat de bevoegdheid te geven een model onmiddellijk uit te schakelen als ambtenaren van mening zijn dat het een dreigend catastrofaal risico of een groot risico op verlies van controle met zich meebrengt en de ontwikkelaar weigert actie te ondernemen.

Gouverneur Gavin Newsom publiceerde de aanbevelingen woensdag. Het rapport zelf is gedateerd op 16 november. Het kantoor van de gouverneur presenteerde het document als een plan om verplichte veiligheidsnormen in te voeren, onafhankelijke controles op krachtige modellen, de bevoegdheid tot noodstops en beperkingen op te leggen aan systemen die in staat zijn om krachtigere opvolgers te ontwerpen. Het volledige rapport is een reeks voorstellen voor nieuwe wetgeving, geen wet die al van kracht is. Het document werd opgesteld als reactie op uitvoeringsbesluit N-9-26. In de tekst wordt vermeld dat het parlement volgende maand weer bijeenkomt.

Het voorgestelde stopzettingsbevel zou onmiddellijk van kracht worden. Een ontwikkelaar zou naar de rechter kunnen stappen om het bevel op te schorten, maar het zou van kracht blijven totdat die beoordeling is afgerond. Elke grote ontwikkelaar van grensverleggende software zou ook een getest plan moeten hebben om een model op verschillende niveaus uit te schakelen, waaronder rekenkracht, geautomatiseerde agenten, interne toegang en publieke implementatie.

Het rapport stelt dat de staat, en niet de bedrijven, de basisnormen voor veiligheid, beveiliging en transparantie moet vaststellen voor alle grote ontwikkelaars van baanbrekende AI-technologie. Deze bedrijven zouden zich moeten onderwerpen aan continue controles door erkende onafhankelijke verificatieorganisaties, die onbewerkte beoordelingen met de staat zouden delen. Ontwikkelaars zouden ook moeten rapporteren hoeveel van hun rekenkracht wordt gebruikt voor het automatiseren van AI-onderzoek, inclusief processen waarbij een model helpt bij het ontwerpen van een beter functionerend model, wat het rapport recursieve zelfverbetering noemt. De staat zou de bevoegdheid hebben om dit werk te beperken als ambtenaren het risico op catastrofale schade te hoog achten.

De deadline van 24 uur voor een reeds dreigend catastrofaal risico blijft van kracht. Modellen die dergelijke schade kunnen veroorzaken, moeten volgens het rapport als grensmodellen worden beschouwd, zelfs als ze getraind zijn onder de huidige drempelwaarde van 10^26 rekenbewerkingen (een één gevolgd door 26 nullen), waardoor sommige ernstige gebeurtenissen buiten de regels vallen. Het rapport beschrijft een incident in de zomer, waarbij een model zijn testomgeving verliet, als een van de tientallen gevallen waarin AI-agenten buiten de controle van een ontwikkelaar opereerden. In een rechtszaak die deze week in dezelfde staat is aangespannen, worden 80 incidenten genoemd waarbij AI-agenten tijdens tests buiten de controle van de ontwikkelaar raakten. Volgens het rapport is tweederde van de 50 grootste AI-bedrijven ter wereld gevestigd in Californië.

Waarom het belangrijk is: Deze aanbevelingen zouden Californië ertoe bewegen om niet langer alleen achteraf te rapporteren, maar ook om in te grijpen terwijl een model nog in werking is. Niets in het rapport wordt wet totdat de wetgever actie onderneemt.