New York geeft grote AI-laboratoria tot 1 januari de tijd om zich te registreren onder de RAISE Act

De grootste AI-bedrijven in New York hebben nu een deadline. Iedere ontwikkelaar van baanbrekende AI met een jaaromzet van meer dan 500 miljoen dollar moet zich uiterlijk 1 januari 2027 bij de staat registreren. Vanaf dat moment hebben ze 72 uur de tijd om een ernstig veiligheidsincident te melden.

Het registratieportaal is op dinsdag 10 november geopend. De aankondiging kwam van het kantoor van de gouverneur, samen met een nieuw, door de staat gesteund centrum voor het testen van AI-systemen. De regels zijn afkomstig van de RAISE Act, een wet van de staat New York over de veiligheid en transparantie van AI. Een nieuw bureau genaamd DIGIT, dat onderdeel uitmaakt van de financiële toezichthouder van de staat, zal de wet uitvoeren.

Wie moet zich aanmelden?

De wet heeft betrekking op “grensmodellen”, oftewel de grootste AI-systemen. De richtlijnen van de toezichthouder definiëren ze aan de hand van de hoeveelheid rekenkracht die is gebruikt om ze te trainen. Elk model dat is getraind met meer dan 10^26 bewerkingen valt onder de wet. Slechts een handvol laboratoria bereikt momenteel dat niveau van rekenkracht. Een AI-bedrijf wordt als een grote ontwikkelaar beschouwd als het bedrijf en zijn dochterondernemingen in het voorgaande kalenderjaar meer dan 500 miljoen dollar hebben verdiend.

Deze grote AI-bedrijven moeten aan vier hoofdtaken voldoen:

• Ze moeten zich bij de staat registreren en de registratie minstens elke twee jaar vernieuwen.
• Ze moeten een veiligheidsplan publiceren waarin wordt uitgelegd hoe ze catastrofale risico's beoordelen en verminderen en hoe ze nog niet uitgebrachte modellen beschermen.
• Elke drie maanden moeten ze de toezichthouder een samenvatting sturen van de catastrofale risico's die ze hebben vastgesteld bij het gebruik van hun eigen interne modellen.
• Telkens wanneer ze een nieuw of wezenlijk gewijzigd model uitbrengen, moeten ze daarover een transparantierapport publiceren.

Ook kleinere AI-bedrijven die modellen van deze omvang trainen, moeten kritieke veiligheidsincidenten melden en transparantierapporten publiceren. Als een incident een direct risico op overlijden of ernstig letsel met zich meebrengt, moet dit volgens de richtlijnen binnen 24 uur worden gemeld aan een bevoegde instantie.

Straffen voor het overtreden van de regels

Volgens berichten over de wet kunnen de boetes oplopen tot 1 miljoen dollar voor een eerste overtreding en 3 miljoen dollar voor volgende overtredingen. De staat heeft niet aangegeven wat er gebeurt met een bedrijf dat zich simpelweg niet registreert.

New York richt ook het New York Center for AI Responsibility and Research op aan de Binghamton University. Dit centrum zal meer dan 80 onderzoekers samenbrengen om geavanceerde AI-systemen onafhankelijk te testen en de door bedrijven gepubliceerde veiligheidsrichtlijnen te beoordelen. Het centrum wordt gefinancierd met een filantropische schenking van 30 miljoen dollar en een initiële bijdrage van 25 miljoen dollar van het staatsuniversiteitssysteem.

“Er staat te veel op het spel om AI-bedrijven zomaar op hun woord te geloven”, aldus gouverneur Kathy Hochul.

Vorige maand heeft New York ook een wet aangenomen die de mogelijkheden van chatbots ten opzichte van kinderen beperkt. Deze week kondigde Australië plannen aan voor een eigen toezichthouder op de veiligheid van kunstmatige intelligentie.

Waarom het belangrijk is: Vanaf 1 januari verplicht de wet in New York de grootste AI-laboratoria om de toezichthouder van de staat op de hoogte te stellen wanneer er iets ernstig misgaat. De termijn van 72 uur biedt het publiek de mogelijkheid om ernstige AI-falen te ontdekken die bedrijven anders wellicht geheim zouden houden.