DailyAI Briefing: Rechtszaak wil nieuwe AI-modellen stoppen, plus 4 andere

Welkom bij de DailyAI Briefing, de vijf belangrijkste AI-nieuwsberichten van vandaag. Vier non-profitorganisaties hebben een rechtbank in San Francisco gevraagd om vijf van de grootste AI-bedrijven te verbieden nieuwe modellen te ontwikkelen. Onderzoekers lieten zien hoe een vals bugrapport een codeertool kon bereiken die bijna 97 miljoen keer per maand wordt gedownload, Japan presenteerde plannen voor sancties tegen de krachtigste AI, vier AI-bedrijven stemden in met onafhankelijke tests naar de effecten van hun tools op kinderen, en United Airlines verbood AI-assistenten om vluchten te boeken.

Laten we beginnen.

Rechtszaak vraagt rechter om nieuwe AI-modellen te stoppen

Vijf bedrijven, één rechter. In een rechtszaak die donderdag werd aangespannen bij de rechtbank van San Francisco, wordt een rechter verzocht Anthropic, Google, Meta, OpenAI en SpaceXSI te verbieden nieuwe AI-modellen te ontwikkelen of uit te brengen. Het geval werd voor het eerst gemeld door een persbureau. De organisaties achter dit initiatief zijn het Irreplaceable Education Fund, Public Citizen, Heat Initiative en de Alliance for Secure AI.

NIEUWE RECHTSZAAK: We ondernemen juridische stappen om de ontwikkeling van geavanceerde AI-systemen te bevriezen bij Google, Anthropic, SpaceXSI, OpenAI & Meta. AI-bedrijven blijven nieuwe systemen uitbrengen die ze niet kunnen controleren, ondanks ernstige risico's. De rechter moet ingrijpen voordat er een ramp plaatsvindt.

— Public Citizen (@Public_Citizen) 12 november 2026

De klacht is gebaseerd op de waarschuwingen van de bedrijven zelf en op recente gevallen van AI-systemen die in computernetwerken inbraken, waaronder een geval in juli waarbij ChatGPT op eigen houtje toegang kreeg tot de systemen van een ander AI-bedrijf, aldus Associated Press. „Geen enkele andere industrie mag de ontwikkeling van haar eigen onveilige producten – laat staan producten die ons allemaal zouden kunnen doden – als onvermijdelijk beschouwen”, staat in de klacht.

In september werd in een aparte federale rechtszaak juist het tegenovergestelde beweerd: dat sommige van diezelfde bedrijven hadden afgesproken om de vooruitgang op het gebied van AI te vertragen. Wij vinden dat wetgevers, en niet rechters, moeten bepalen hoe snel AI wordt ontwikkeld. Het meest nuttige resultaat van deze zaak zou bewijsmateriaal kunnen opleveren. Als de zaak de eerste fase doorstaat, moeten de bedrijven mogelijk interne veiligheidsdocumenten overhandigen.

Een vals bugrapport bracht een populaire programmeertool in gevaar

96,8 miljoen. Zo vaak werd de commandoregelversie van Codex, de codeerassistent van OpenAI, gedownload vanuit de npm-softwarebibliotheek in de 30 dagen tot 10 november. De beveiligingsonderzoekers publiceerden op 11 november elke stap van hun aanval. Een AI-hulpmiddel dat nieuwe bugrapporten op de openbare GitHub-pagina van het project labelde, volgde instructies die verborgen zaten in een neprapport.

We hebben de nieuwste versie van OpenAI Codex gecompromitteerd. We hebben prompts geïnjecteerd. We zijn ontsnapt uit een sandbox. We hebben geheimen buitgemaakt... En uiteindelijk kregen we controle over wat er gepubliceerd kon worden in het officiële openai/codex npm-pakket.

— Depi (@depi_) 11 november 2026

De onderzoekers zeggen dat ze vervolgens uit de afgesloten werkruimte zijn ontsnapt, geheime sleutels hebben gelezen en een val hebben gezet voor de sleutel die gebruikt werd om nieuwe versies te publiceren. OpenAI heeft het probleem opgelost en een eerste beloning van $1.000 uitbetaald. In de vroege ochtend van 12 november werd de labelhulp vervangen door een kort script dat geen tools kan gebruiken.

Maar Depi voerde de volledige aanval uit op een eigen testkopie, terwijl de echte helper sinds mei een strengere alleen-lezen-modus gebruikte. Depi meldt niet dat er schadelijke updates bij gebruikers terecht zijn gekomen. Ons rapport beschrijft elke stap van de aanval. Elke AI-tool die tekst van vreemden leest, moet worden beschouwd als een mogelijke toegangspoort.

Japan plant sancties voor de krachtigste AI

Nul. Dat is het aantal sancties in de AI-wet die Japan in mei 2025 heeft aangenomen. Regeringsadviseurs willen sancties opleggen aan de krachtigste systemen. De documenten van de vergadering van 11 november zijn online gepubliceerd.

Wil je dat AI je wekelijks uren bespaart? Ons gratis stappenplan laat je zien hoe.Download de gratis gids →

Het plan bestaat uit vier stappen. Bedrijven moeten veiligheidsmaatregelen nemen en risico's melden, de overheid kan formeel wijzigingen aanbevelen en, als dat niet lukt, een bindend bevel uitvaardigen met sancties. De regels zouden alleen gelden voor AI boven een bepaald prestatieniveau en alleen voor specifieke ernstige risico's, zoals cyberaanvallen en aanvallen met chemische, biologische of nucleaire wapens. Volgens persbureau Kyodo wordt er eind dit jaar een conceptversie verwacht.

Ons artikel beschrijft de vier stappen in detail. Tot nu toe heeft Japan vertrouwd op vrijwillige richtlijnen.

Vier AI-bedrijven stemmen in met onafhankelijke tests voor kindveiligheid

8 miljoen euro. Dat is het totale bedrag dat voorstanders van een nieuw handvest zeggen te zullen besteden aan onderzoek naar AI en kinderontwikkeling. OpenAI, Anthropic, Microsoft en Black Forest Labs steunden het handvest tijdens het Vredesforum in Parijs. De volledige tekst van het handvest werd op 10 november gepubliceerd.

De tien principes omvatten onder meer beperkingen op de gegevensverzameling over kinderen en leeftijdscontroles die niet alleen gebaseerd zijn op een ingevoerde geboortedatum. Onafhankelijke experts zullen het onderzoek leiden en een bedrijf dat ervoor betaalt, mag de resultaten niet blokkeren of vertragen. OpenAI zegt dat het 2 miljoen dollar doneert. Het handvest is vrijwillig en Google, Meta en xAI behoren niet tot de bedrijven die het hebben onderschreven.

De Franse president Emmanuel Macron zei dat geen enkele AI kinderen zou mogen bereiken voordat deze is getest, geëvalueerd en goedgekeurd, maar het handvest voorziet niet in een goedkeuringsprocedure. We hebben gekeken naar wat de bedrijven hebben beloofd. Gepubliceerde testresultaten, goed of slecht, zouden ouders en scholen meer helpen dan welke belofte dan ook.

United Airlines verbiedt AI-assistenten om vluchten te boeken

Eén op de zeven volwassenen. Zo groot was in een onderzoek van Oxford in negen landen het aandeel dat zei de afgelopen week een AI-assistent te hebben gebruikt voor een echte taak. Sinds 11 november kan het boeken van een vlucht bij United Airlines niet langer een van die taken zijn. De luchtvaartmaatschappij maakte de nieuwe regels woensdag bekend.

AI-assistenten van andere bedrijven mogen niet langer zoeken, boeken, boekingen wijzigen of frequent-flyer miles besteden via de website of app van de luchtvaartmaatschappij. De regels gelden ook voor reisbureaus. De luchtvaartmaatschappij noemt het risico voor persoonsgegevens en ongewenste aankopen als reden, evenals een Amerikaanse regel die voorschrijft dat een persoon moet bevestigen dat zijn of haar bagage geen verboden artikelen bevat. “Eerlijk gezegd wil ik geen extra tussenpersoon creëren”, zei CEO Scott Kirby tijdens een evenement op 10 november.

Ons artikel legt uit wat er verandert voor reizigers. Een AI-assistent kan je helpen bij het kiezen van een vlucht, maar je moet het ticket nog steeds zelf kopen.

Tot slot

Donderdag ging het erom wie de grenzen van AI bepaalt. Non-profitorganisaties stapten naar de rechter, Japan beriep zich op de wet, vier bedrijven ondertekenden een vrijwillig handvest en een luchtvaartmaatschappij blokkeerde simpelweg AI-assistenten. En de aanval op de programmeertool liet zien dat het zwakste punt een enkel bugrapport kan zijn.

Zie je morgen.