World Economic Forum (WEF) har understreket at det haster med å finne svar på hvordan generativ kunstig intelligens påvirker barn, med tanke på å utvikle politikk og regelverk.
Teknologien i dag beveger seg raskt, og barn og tenåringer er ofte flinkere til å utforske den enn voksne.
Undersøkelser viser at mens bare 30% av foreldrene har brukt AI-verktøy som ChatGPT, 58% av barn i alderen 12-18 år har gjort det og skjult det for foreldre og lærere.
Plattformer som er populære blant barn, for eksempel Snapchat, har integrerte AI-chatboter som er enkle å få tilgang til og bruke.
Andre store teknologiselskaper planlegger lignende integrasjoner, noe som tyder på at generativ AI raskt kan bli en viktig del av barnas digitale miljø. Det vil bli utrolig vanskelig for voksne å kontrollere barns bruk av generativ AI.
Den WEF bemerker at generativ kunstig intelligens har potensielle fordeler for barn, som leksehjelp, personlig tilpassede læringsopplevelser og kreativitet. For barn med funksjonsnedsettelser gir kunstig intelligens dessuten unike måter å lære og samhandle på.
Til tross for fordelene innebærer generativ AI imidlertid også risikoer som utilsiktet kan skade barn. For eksempel kan kunstig intelligens skape tekstbasert desinformasjon som er mer overbevisende enn menneskeskapt innhold, og dype falske bilder er nå umulig å skille fra ekte.
Pedofile bruker allerede AI til å generere bilder av overgrep mot barnog tjenester som Replika har allerede blitt kritisert av barnevernsgrupper på grunn av sin seksuelt antydende oppførsel. Replika er en sofistikert chatbot som er designet for å være en digital venn eller følgesvenn, og har en aldersgrense på 18 år og oppover, selv om det finnes bevis på at brukerne ikke alltid overholder den.
Langvarig bruk av generativ AI reiser spørsmål om barns utvikling, potensielle skjevheter, personvern, databeskyttelse og kommersiell bruk av barns data.
Og så er det den ikke ubetydelige forstyrrelser i utdanningssystemene og det fremtidige arbeidsmarkedet.
Kan vi stole på at utdanningsinstitusjonene gir barna den utdanningen de trenger for å trives i en verden der kunstig intelligens er innebygd i nesten alle prosesser? Og hvis utdanningen omstilles til kunstig intelligens, hva ofrer den i prosessen?
Cen vi stoler på AI som en primær kilde til informasjon?
Behovet for politiske tiltak
WEF understreker at de omfattende potensielle konsekvensene av kunstig intelligens for barn krever at beslutningstakere, teknologiselskaper, reguleringsorganer og andre interessenter handler raskt.
Mens AI-regelverket inneholder bestemmelser om kontroll av dyp forfalskning og desinformasjon, er det svært lite som sier noe om hvordan barn og yngre personer skal samhandle med teknologien, enten det er hjemme eller i undervisningssammenheng.
Dessuten er det svært vanskelig å samle inn evidensbasert forskning om dette på kort tid.
Eksisterende ressurser, som f.eks. UNICEFs retningslinjer for kunstig intelligens for barngir en viss retning, men AI vil raskt vokse ut av dem.
De som arbeider for å beskytte barn, må støtte forskning på konsekvensene av generativ kunstig intelligens og kjempe for barns rettigheter. Det må være større åpenhet, ansvarlig utvikling fra leverandører av kunstig intelligens og støtte til tiltak på globalt nivå for å regulere kunstig intelligens.
AI-utviklere bør vurdere risikoen ved at teknologien deres brukes av barn, og eventuelt utvikle metoder for å oppdage når et barn bruker et verktøy.
Ettersom barn i dag vokser opp med nærmest konstant eksponering for kunstig intelligens, er behovet for omfattende retningslinjer og regelverk som er skreddersydd for den nye teknologien, mer presserende enn noensinne.
