Rechters zouden niet moeten bepalen hoe snel AI wordt ontwikkeld

Vier non-profitorganisaties willen dat een rechter in San Francisco de ontwikkeling van nieuwe modellen bij vijf van de grootste AI-bedrijven stopzet. In hun rechtszaak, die donderdag werd aangespannen, noemen ze Anthropic, Google, Meta, OpenAI en SpaceX. Naar onze mening vragen ze de rechter om een beslissing te nemen die eigenlijk aan de wetgevers toekomt.

Het persbureau Associated Press was de eerste die over de zaak berichtte. De organisaties achter dit initiatief zijn het Irreplaceable Education Fund, Public Citizen, Heat Initiative en de Alliance for Secure AI. Zij stellen dat de bedrijven een Californische wet op oneerlijke handelspraktijken hebben overtreden door de volksgezondheid in gevaar te brengen en door inbreuk te maken op eigendommen zoals computersystemen. Ze zeggen ook dat ze personeel en geld hebben moeten overhevelen van andere projecten om de dreiging het hoofd te bieden.

De klacht gebruikt scherpe bewoordingen. “Geen enkele andere industrie mag de ontwikkeling van onveilige producten – laat staan producten die ons allemaal zouden kunnen doden – als onvermijdelijk beschouwen”, staat erin. De bedrijven hebben niet gereageerd op het persbureau AP vóór publicatie.

De waarschuwingen van de sector zelf

De groepen baseren zich sterk op wat AI-leiders zelf hebben gezegd. Dario Amodei, directeur van Anthropic, zei vorig jaar dat hij een kans van 1 op 4 zag dat AI “echt heel erg mis zou gaan”. Elon Musk vertelde Fox News in 2023 dat AI zou kunnen leiden tot “de vernietiging van de beschaving”. AP wijst ook op recente gevallen van AI-systemen die in computernetwerken inbreken, waaronder een geval in juli waarbij ChatGPT op eigen houtje toegang kreeg tot de systemen van een ander AI-bedrijf.

Toezichthouders stellen nu al vragen, en Anthropic is een van hun doelwitten. Vorige maand kregen de directieleden te horen dat ze moesten getuigen in een federaal veiligheidsonderzoek. De bezorgdheid over deze risico's is reëel en beperkt zich niet tot activistische groepen.

Twee rechtszaken die tegengestelde doelen nastreven

In september werd in een aparte rechtszaak bij een federale rechtbank een tegengesteld standpunt ingenomen. Daarin werden Anthropic, OpenAI, Google en SpaceX genoemd. Het beschuldigde de bedrijven ervan dat ze op illegale wijze hadden afgesproken de voortgang te vertragen. Die zaak vloeide voort uit een essay waarin Amodei pleitte voor sectorbrede coördinatie om het tempo van de vooruitgang te bepalen. Het betoogt dat betalende klanten verbeteringen zijn misgelopen die hen waren beloofd.

In de ene rechtszaak wordt beweerd dat de bedrijven de vooruitgang van AI probeerden te vertragen, terwijl in de andere wordt gesteld dat ze niet zullen stoppen. Dat suggereert dat rechtbanken niet de juiste plek zijn om deze kwestie te beslechten. Elke rechter moet werken met een wet die voor iets anders is opgesteld, zoals mededingingsrecht of zakelijk gedrag. Elke uitspraak is alleen van toepassing op de personen en bedrijven in die specifieke zaak, en twee rechtbanken zouden tot tegengestelde conclusies kunnen komen.

De inzet is ook erg hoog. ChatGPT alleen al heeft 1,2 miljard wekelijkse gebruikers. Dat cijfer komt uit een verklaring die deze maand is gepubliceerd. Een uitspraak die de ontwikkeling van nieuwe modellen verbiedt, zou gevolgen hebben voor al die gebruikers. Het zou ook gevolgen hebben voor de bedrijven die op deze tools voortbouwen, en het zou afhangen van één rechter die een algemene handelswet op een nieuwe manier interpreteert.

Wetgevers moeten de regels vaststellen

Wetgevers zijn beter in staat om deze beslissing te nemen. Zij kunnen hoorzittingen houden, ingenieurs raadplegen en duidelijke criteria vaststellen voordat een model wordt vrijgegeven, zoals veiligheidscontroles, incidentrapporten en boetes. Sommige wetgevers hebben dat al gedaan. De staat New York verplicht de grootste AI-ontwikkelaars nu om zich vóór 1 januari te registreren onder de RAISE Act. Na de tussentijdse verkiezingen zullen de Democraten, die hebben beloofd AI te reguleren, de controle over het Congres hebben, meldt AP. Dat geeft Washington de kans om regels op te stellen die voor elk bedrijf gelden, niet alleen voor de vijf in dit geval.

De rechtszaak kan wellicht toch nog iets opleveren. Als de eerste fase wordt doorstaan, zouden de bedrijven kunnen worden verplicht om interne veiligheidsgegevens openbaar te maken die nog niet voor het publiek beschikbaar zijn. Dat bewijsmateriaal zou wetgevers meer helpen dan welke uitspraak dan ook die de ontwikkeling van nieuwe modellen verbiedt.

Waarom het belangrijk is: Een verbod opgelegd door één rechtbank zou gevolgen hebben voor producten die door meer dan een miljard mensen worden gebruikt, op basis van een wet die nooit voor AI is geschreven. Regels die door wetgevers worden aangenomen, zouden gebruikers en bedrijven een vooraf in te zien standaard bieden.