Italias datatilsyn, Garante, har uttrykt bekymring for at OpenAIs ChatGPT kan være i strid med EUs personvernforordning (GDPR).
Dette er et resultat av en etterforskning som ble iverksatt i fjor etter en midlertidig forbud mot ChatGPT i Italia. Undersøkelsen avdekket potensielle problemer knyttet til håndtering av personopplysninger og spørsmål rundt aldersverifiseringsprosesser.
Det italienske datatilsynets etterforskning var motivert av flere faktorer, blant annet hendelser der ChatGPT-meldinger og betalingsinformasjon utilsiktet ble eksponert, og manglende alderskontroll for mindreårige.
I tillegg stilte tilsynet spørsmål ved lovligheten av OpenAIs datainnsamlingspraksis som ble brukt til å trene opp ChatGPT, og slo alarm om at den kunstige intelligensen tidvis genererte unøyaktig informasjon om enkeltpersoner.
AI-selskaper har vært under intens granskning for sin dataskrapingspraksis, med mange søksmål om opphavsrett pågår for tiden.
Det finnes også flere eksempler på at AI-"hallusinasjoner" har svertet enkeltpersoner på en injurierende måte, og noen ganger ved et uhell anklaget dem for forbrytelser som underslag eller seksuell trakassering. Injuriesøksmål har blitt anlagt mot AI-utviklere, men er foreløpig ikke konkludert.
Som svar på disse påstandene har OpenAI bekreftet sin forpliktelse til å overholde GDPR og andre personvernlover, og understreket sitt engasjement for databeskyttelse og personvern.
OpenAIs uttalelse fremhevet videre deres innsats for å minimere inkluderingen av personopplysninger i opplæringsprosessene og systemets design for å avvise forespørsler om privat eller sensitiv informasjon, og uttalte: "Vi mener at vår praksis er i tråd med GDPR og andre personvernlover, og vi tar ytterligere skritt for å beskytte folks data og personvern."
Den globale granskningen av AI-investeringer
I mellomtiden etterforsker den amerikanske Federal Trade Commission (FTC), under ledelse av leder Lina Khan, den relasjoner mellom ledende AI-startupssom OpenAI, og teknologigiganter som Microsoft, Amazon og Google.
Denne uken har flere borgerrettighetsgrupper og organisasjoner, som Mozilla Foundation, stilte spørsmål ved forholdet mellom Microsoft og OpenAIog oppfordret EU-kommisjonen til å etterforske dem for brudd på antitrustregelverket.
FTCs undersøkelser tar også sikte på å vurdere om disse partnerskapene gir urimelig innflytelse eller privilegert tilgang til de større selskapene, noe som undergraver rettferdig konkurranse.
Etter hvert som disse teknologiene blir stadig mer integrert i ulike deler av samfunnet, er det åpenbart at det er behov for et regelverk som balanserer innovasjon med etiske hensyn, personvern og markedsrettferdighet. Det er fortsatt på trappene.
Utfallet av disse undersøkelsene og reguleringstiltakene vil sannsynligvis skape viktig presedens for styringen av KI-teknologier i fremtiden, og vil forme utviklingen av KI og integreringen av teknologien i den globale digitale økonomien.
