World Economic Forum (WEF) har understreget, at der er et presserende behov for svar på, hvordan generativ AI påvirker børn med henblik på at udvikle politik og regulering.
Teknologien i dag bevæger sig hurtigt, og børn og teenagere er ofte bedre til at udforske den end voksne.
Undersøgelser viser, at mens kun 30% af forældrene har brugt AI-værktøjer som ChatGPT, 58% af børn i alderen 12-18 år har gjort det og skjult det for forældre og lærere.
Platforme, der er populære blandt børn, såsom Snapchat, har integreret AI-chatbots, som er nemme at få adgang til og bruge.
Andre store teknologivirksomheder planlægger lignende integrationer, hvilket tyder på, at generativ AI hurtigt kan blive en vigtig del af børns digitale miljø. Det vil blive utroligt svært for voksne at kontrollere børns brug af generativ AI.
Den WEF noterer at generativ AI giver potentielle fordele for børn, som f.eks. hjælp til lektier, personlige læringsoplevelser og fremme af kreativitet. For børn med handicap giver AI desuden unikke måder at lære og interagere på.
Men på trods af fordelene indebærer generativ AI risici, der utilsigtet kan skade børn. For eksempel kan AI skabe tekstbaseret misinformation, der er mere overbevisende end menneskeskabt indhold og dybe falske billeder er nu umulige at skelne fra ægte.
Pædofile bruger allerede AI til at generere billeder af børnemishandlingog tjenester som Replika har allerede blevet kritiseret af børnebeskyttelsesgrupper på grund af deres seksuelt suggestive adfærd. Replika er en sofistikeret chatbot, der er designet til at være en digital ven eller ledsager, og som har en aldersgrænse på 18+, selvom der er tegn på, at brugerne ikke altid overholder den.
Langvarig brug af generativ AI rejser spørgsmål om børns udvikling, potentielle bias, privatlivets fred, databeskyttelse og den kommercielle brug af børns data.
Og så er der det ikke ubetydelige spørgsmål om vigtighed forstyrrelse af uddannelsessystemer og det fremtidige jobmarked.
Kan vi stole på, at uddannelsesinstitutionerne leverer den uddannelse, som børn har brug for til at trives i en verden, hvor kunstig intelligens er indlejret i næsten alle processer? Og hvis uddannelse skifter til kunstig intelligens, hvad ofrer den så i processen?
Cen vi Stol på AI som en primær informationskilde?
Behovet for politisk handling
WEF fremhæver, at de vidtrækkende potentielle konsekvenser af kunstig intelligens for børn kræver hurtig handling fra politiske beslutningstagere, teknologivirksomheder, tilsynsorganer og andre interessenter.
Mens AI-regulering indeholder bestemmelser om kontrol af deep fakes og desinformation, er der meget lidt, der indikerer, hvordan børn og yngre personer skal interagere med teknologien, hvad enten det er i hjemmet eller i uddannelsesmæssige sammenhænge.
Desuden er det usædvanligt vanskeligt at indsamle evidensbaseret forskning om dette inden for en kort tidsramme.
Eksisterende ressourcer, som f.eks. UNICEF's politiske vejledning om kunstig intelligens for børngiver en vis retning, men AI vokser hurtigt ud af dem.
De, der arbejder for at beskytte børn, skal støtte forskning i generativ AI's konsekvenser og være fortalere for børns rettigheder. Der skal være større gennemsigtighed, ansvarlig udvikling fra AI-udbydere og støtte til en global indsats for at regulere AI.
Det er vigtigt, at AI-udviklere overvejer risikoen ved, at deres teknologi bruges af børn, og eventuelt udvikler metoder til at opdage, når et barn bruger et værktøj.
Da børn i dag vokser op med næsten konstant eksponering for kunstig intelligens, er behovet for omfattende politikker og regler, der er skræddersyet til den nye teknologi, mere presserende end nogensinde.
