Het World Economic Forum (WEF) heeft gewezen op de dringende behoefte aan antwoorden op de vraag hoe generatieve AI kinderen beïnvloedt met het oog op de ontwikkeling van beleid en regelgeving.
Technologie gaat tegenwoordig snel en kinderen en tieners zijn vaak beter in het verkennen ervan dan volwassenen.
Uit enquêtes blijkt dat slechts 30% van de ouders AI-tools zoals ChatGPT heeft gebruikt, 58% van kinderen 12-18 jaar hebben dit gedaan en het verborgen voor ouders en leerkrachten.
Platforms die populair zijn onder kinderen, zoals Snapchat, hebben AI-chatbots geïntegreerd, die gemakkelijk toegankelijk en te gebruiken zijn.
Andere grote techbedrijven plannen soortgelijke integraties, wat aangeeft dat generatieve AI snel een belangrijk onderdeel zou kunnen worden van de digitale omgeving van kinderen. Het zal ongelooflijk moeilijk worden voor volwassenen om toezicht te houden op het gebruik van generatieve AI door kinderen.
De Opmerkingen WEF dat generatieve AI potentiële voordelen biedt voor kinderen, zoals hulp bij huiswerk, gepersonaliseerde leerervaringen en het stimuleren van creativiteit. Voor kinderen met een handicap biedt AI bovendien unieke manieren om te leren en te interageren.
Ondanks de voordelen brengt generatieve AI echter risico's met zich mee die kinderen onbedoeld kunnen schaden. AI kan bijvoorbeeld op tekst gebaseerde desinformatie creëren die overtuigender is dan door mensen gegenereerde inhoud en Diepe nepafbeeldingen zijn nu niet meer van echt te onderscheiden.
Pedofielen gebruiken AI al om beelden van kindermisbruik genererenen diensten zoals Replika hebben al bekritiseerd door kinderbeschermingsorganisaties vanwege hun seksueel suggestieve gedrag. Replika is een geavanceerde chatbot die is ontworpen om een digitale vriend of metgezel te zijn en wordt geleverd met een leeftijdsgrens van 18+, hoewel er aanwijzingen zijn dat gebruikers zich hier niet altijd aan houden.
Langdurig gebruik van generatieve AI roept vragen op over de ontwikkeling van kinderen, mogelijke vooroordelen, privacy, gegevensbescherming en het commerciële gebruik van gegevens van kinderen.
En dan is er nog de niet geringe kwestie van significante ontwrichting van onderwijssystemen en de toekomstige arbeidsmarkt.
Kunnen we erop vertrouwen dat onderwijsinstellingen het onderwijs leveren dat kinderen nodig hebben om te gedijen in een wereld waarin AI is ingebed in bijna elk proces? En als het onderwijs overgaat op AI, wat offert het dan op in dat proces?
Cen we AI vertrouwen als primaire informatiebron?
De behoefte aan beleidsmaatregelen
Het WEF benadrukt dat de verstrekkende potentiële gevolgen van AI voor kinderen dringende actie vereisen van beleidsmakers, technologiebedrijven, regelgevende instanties en andere belanghebbenden.
Hoewel de AI-regelgeving bepalingen bevat voor het controleren van diepe vervalsingen en desinformatie, is er heel weinig dat aangeeft hoe kinderen en jongere individuen met de technologie moeten omgaan, thuis of in onderwijsomgevingen.
Bovendien is het bijzonder moeilijk om in een kort tijdsbestek op feiten gebaseerd onderzoek hierover te verzamelen.
Bestaande bronnen, zoals UNICEF's beleidsrichtlijnen voor AI voor kinderenZe geven enige richting, maar AI zal ze snel ontgroeien.
Degenen die werken aan de bescherming van kinderen moeten onderzoek naar de effecten van generatieve AI ondersteunen en opkomen voor de rechten van kinderen. Er moet meer transparantie komen, verantwoordelijke ontwikkeling door AI-aanbieders en steun voor wereldwijde inspanningen om AI te reguleren.
AI-ontwikkelaars moeten kritisch nadenken over de risico's van het gebruik van hun technologie door kinderen en mogelijk methoden ontwikkelen om te detecteren wanneer een kind een hulpmiddel gebruikt.
Omdat kinderen tegenwoordig opgroeien met een bijna voortdurende blootstelling aan AI, is er meer dan ooit behoefte aan uitgebreid beleid en regelgeving die is afgestemd op deze opkomende technologie.
