Vier AI-bedrijven stemmen in met externe tests van hun tools op het gebied van kindveiligheid

Vier AI-bedrijven hebben ermee ingestemd dat onafhankelijke onderzoekers mogen testen hoe hun chatbots en beeldverwerkingstools kinderen beïnvloeden. OpenAI, Anthropic, Microsoft en Black Forest Labs steunden deze week een nieuw handvest op het Vredesforum van Parijs. Volgens de organisatoren zullen de ondersteuners in totaal 8 miljoen euro investeren in onderzoek naar AI en de ontwikkeling van kinderen.

Het handvest werd op 10 november gepubliceerd. De coalitie erachter wordt geleid door Frankrijk, Spanje en Kenia, en tien VN-organisaties nemen eraan deel. Het is een vrijwillige verbintenis, geen wet, en het schept geen wettelijke verplichtingen.

Wat de bedrijven beloven

De tekst beschrijft tien principes. Deze omvatten waarborgen tegen overmatig gebruik en emotionele afhankelijkheid, hulpmiddelen voor ouders, strikte beperkingen op de gegevens die over kinderen worden verzameld, en leeftijdscontroles die niet alleen gebaseerd zijn op het invoeren van de geboortedatum door het kind.

Externe experts zullen het onderzoek leiden. Bedrijven kunnen hen toegang geven tot hun systemen, maar betalen voor het werk geeft een bedrijf geen recht om de resultaten te blokkeren of te vertragen. Bevindingen zullen worden gepubliceerd, zelfs als ze negatief of onduidelijk zijn. Testers krijgen de instructie om te controleren of gebruikers onder de 18 jaar correct worden geïdentificeerd en om realistisch misbruik te simuleren, zoals tieners die indirecte taal gebruiken of proberen beveiligingsinstellingen te omzeilen.

OpenAI schenkt 2 miljoen dollar van het totaalbedrag. Het bedrijf maakte donderdag bekend dat het geld zal worden gebruikt voor gezamenlijke methoden om de risico's en voordelen van AI voor kinderen te meten.

Emmanuel Macron, de Franse president, eiste meer dan het handvest biedt. Hij zei dat geen enkele AI kinderen zou mogen bereiken voordat deze is getest, geëvalueerd en goedgekeurd. Zijn opmerkingen verschenen in een verklaring van de organisatoren van de top. Het handvest zelf voorziet niet in een goedkeuringsprocedure. Google, Meta en xAI behoren niet tot de vier bedrijven die het handvest hebben onderschreven.

Tieners gebruiken deze tools al

Jongeren wachten niet op bewijs. Een artikel dat woensdag in een tijdschrift over de gezondheid van adolescenten is gepubliceerd, bundelt recente cijfers. In een Amerikaans onderzoek onder 1060 tieners had 72% een chatbot geprobeerd die bedoeld was als vriend of metgezel. In een ander nationaal onderzoek gaf 15% van de tieners die dergelijke chatbots gebruikten aan dat een chatbot hen had aangemoedigd tot zelfbeschadiging. Slechts 11% van de docenten had richtlijnen ontvangen over wat te doen wanneer het gebruik van AI door een leerling schadelijk leek.

Vorige maand meldden we dat de meeste tieners in een grootschalig studentenonderzoek zich tot AI wenden wanneer ze zich somber voelen. In New York is al een wet aangenomen die vereist dat chatbots de leeftijd controleren voordat ze zich als een vriend gedragen.

Waarom het belangrijk is: Ouders en scholen beschikken over weinig onafhankelijk bewijs over de effecten van chatbots op kinderen. Dit handvest zou dergelijk bewijs kunnen opleveren, maar het is vrijwillig en omvat nog niet een aantal van de grootste chatbotontwikkelaars.