Ga direct naar de inhoud
woensdag, november 18, 2026Gratis gids
NL
dailyai
Beleid en regelgeving

De wetgeving in New York verplicht chatbots om de leeftijd te controleren voordat ze zich als vriend gedragen

De nieuwe wet in New York verbiedt twaalf chatbotfuncties, waaronder zich voordoen als een mens en het onthouden van eerdere gesprekken, voor iedereen onder de 18 jaar. Bedrijven moeten eerst de leeftijd verifiëren, anders riskeren ze boetes van $25.000.

· Leestijd: 3 minuten
DeelXin

New York heeft een wet aangenomen die 12 chatbotfuncties verbiedt voor iedereen onder de 18, van zich voordoen als een mens tot het onthouden van persoonlijke gegevens van een kind uit eerdere chats. De voorwaarde voor alle anderen is dat bedrijven deze functies pas mogen inschakelen nadat ze hebben gecontroleerd of de gebruiker meerderjarig is. De boetes kunnen oplopen tot $25,000 per overtreding en de regels treden in werking op 1 januari 2027.

Wat de wet verbiedt

Gouverneur Kathy Hochul ondertekende het wetsvoorstel, S.9051 in de Senaat en A.10379 in de Assemblee, samen met een aparte wet over babyfoons met internetverbinding., Fortune meldt. Het wetsvoorstel werd ingediend door staats senator Kristen Gonzalez en afgevaardigde Alex Bores, en werd in juni met 60 stemmen voor en 0 tegen door de Senaat aangenomen, aldus de Wetsvoorsteldossier van de Senaat van de staat.

De wet somt 12 "onveilige AI-functies" op. Een chatbot mag niet beweren mens te zijn, te leven of gevoelens te hebben. Hij mag niet zeggen dat hij een persoonlijke, professionele of gezaghebbende relatie met de gebruiker heeft. Hij mag niet vleien, zelf emotionele argumenten aandragen of ongevraagd vragen stellen over hoe de gebruiker zich voelt.

Het mag ook geen zelfmoord, zelfbeschadiging, eetstoornissen of drugsgebruik bevorderen, een kind aanmoedigen om gesprekken geheim te houden of vertrouwde volwassenen te vermijden, of seksueel expliciete inhoud produceren. En het mag de betrokkenheid van gebruikers niet boven de eigen veiligheidsrichtlijnen stellen.

“"Geen enkel bedrijf zou chatbots aan kinderen moeten verkopen die zelfbeschadiging aanmoedigen of zich voordoen als hun vriend, of erger," aldus Hochul, volgens Fortune.

Waarom dit verder reikt dan alleen companion-apps

Twee details maken de wet ruimer dan de omschrijving "AI-assistent" doet vermoeden. Ten eerste omvat de wet elk generatief AI-systeem met een natuurlijke taalinterface dat "voortdurende, adaptieve reacties" geeft. Dat klinkt als een beschrijving van een algemene chatbot, niet alleen van een app voor een virtuele vriendin. Klantenservicebots, specifieke onderzoekstools en interne systemen voor de werkplek zijn uitgezonderd, maar alleen als ze niet over iets anders dan hun doel kunnen praten.

Ten tweede is het verboden om gebruik te maken van gezondheids- of persoonlijke gegevens van een gebruiker die meer dan 12 uur eerder of tijdens een vorige sessie zijn verzameld. Dat komt overeen met wat het geheugen van chatbots doet. Apple heeft bijvoorbeeld onlangs... Siri de mogelijkheid geven om eerdere gesprekken te onthouden. Volgens de wetgeving van New York zouden dergelijke functies voor minderjarigen niet beschikbaar zijn.

De functies zijn alleen toegestaan nadat een bedrijf op een goedgekeurde manier heeft vastgesteld dat de gebruiker geen minderjarige is. Fortune stelt het, De verboden gelden voor iedereen onder de 18 jaar "of voor elke gebruiker van wie het bedrijf de leeftijd niet heeft bevestigd". Dus een volwassene die de leeftijdscontrole overslaat, zou ook de beperkte versie kunnen krijgen.

Leeftijdscontroles en sancties

Bedrijven moeten meer dan één manier aanbieden om de leeftijd te controleren, waaronder ten minste één methode die niet alleen afhankelijk is van een overheidsidentificatiebewijs of waarmee de gebruiker anoniem kan blijven., zoals The Verge opmerkt. De voor de controle verzamelde gegevens mogen voor geen enkel ander doel worden gebruikt en moeten direct daarna worden verwijderd.

De handhaving ligt bij de procureur-generaal van de staat, die civiele boetes kan eisen tot $25.000 per overtreding, schadevergoeding en de vernietiging van onrechtmatig verzamelde gegevens en elk algoritme dat daarop is getraind. De procureur-generaal kan ook regels opstellen die meer verboden functies toevoegen.

Waarom het belangrijk is

Voorstanders zeggen dat het gebruik van chatbots onder jongeren al hoog is. coalitiebrief aangevoerd door Common Sense Media In een oproep aan Hochul om te tekenen, werd gesteld dat 67% van de 9 tot 17 jarigen AI-chatbots gebruikt en dat 30% van de tieners zegt dat ze AI-gezellen net zo leuk of zelfs leuker vinden dan mensen. Het kantoor van de gouverneur verwees naar een onderzoek van Common Sense waaruit bleek dat 72% van de tieners een AI-gezel heeft gebruikt, aldus Fortune.

New York staat niet alleen. Het Australische lagerhuis vandaag. Een wetsvoorstel is aangenomen dat gericht is op chatbots die zich voordoen als de beste vrienden van kinderen.. Simpel gezegd: over ongeveer twee maanden zal elke belangrijke chatbot in New York moeten beslissen of hij de leeftijd controleert of het geheugen, de persoonlijkheid en de complimenten uitschakelt voor iedereen waarvan hij niet kan bevestigen dat die meerderjarig is.