De Italiaanse gegevensbeschermingsautoriteit Garante heeft haar bezorgdheid geuit dat OpenAI's ChatGPT mogelijk in strijd is met de General Data Protection Regulation (GDPR) van de Europese Unie.
Dit komt voort uit een onderzoek dat vorig jaar werd ingesteld na een tijdelijk verbod op ChatGPT in Italië. Het onderzoek heeft mogelijke problemen aan het licht gebracht met betrekking tot de verwerking van persoonsgegevens en problemen rond leeftijdsverificatieprocessen.
Aanleiding voor het onderzoek van de Italiaanse gegevensbeschermingsautoriteit waren verschillende factoren, waaronder incidenten waarbij ChatGPT-berichten en betalingsgegevens onbedoeld aan het licht kwamen en een gebrek aan leeftijdscontrole voor minderjarigen.
Daarnaast zette de autoriteit vraagtekens bij de rechtmatigheid van de gegevensverzamelingspraktijken van OpenAI die worden gebruikt om ChatGPT te trainen en sloeg alarm over het feit dat de AI af en toe onjuiste informatie over individuen genereert.
AI-bedrijven zijn onder de loep genomen vanwege hun praktijken met het schrapen van gegevens. rechtszaken over auteursrecht momenteel in uitvoering.
Er zijn ook verschillende voorbeelden van AI "hallucinaties" die individuen lasterlijk belasteren en soms per ongeluk aanklagen voor misdaden zoals verduistering of seksuele intimidatie. Rechtszaken wegens laster zijn aangespannen tegen AI-ontwikkelaars, maar zijn momenteel niet overtuigend.
In reactie op deze beschuldigingen heeft OpenAI zijn toewijding aan de naleving van de GDPR en andere privacywetten bevestigd en zijn toewijding aan gegevensbescherming en privacy benadrukt.
De verklaring van OpenAI benadrukte verder zijn inspanningen om het opnemen van persoonlijke gegevens in zijn trainingsprocessen tot een minimum te beperken en het ontwerp van zijn systeem om verzoeken om privé- of gevoelige informatie te weigeren, met de volgende verklaring: "We geloven dat onze praktijken in overeenstemming zijn met de GDPR en andere privacywetten, en we nemen extra stappen om de gegevens en privacy van mensen te beschermen."
De wereldwijde controle van AI-investeringen
Ondertussen onderzoekt de Amerikaanse Federal Trade Commission (FTC), onder leiding van voorzitter Lina Khan, de relaties tussen toonaangevende AI-startupszoals OpenAI en techgiganten zoals Microsoft, Amazon en Google.
Deze week hebben verschillende burgerrechtengroepen en organisaties, zoals de Mozilla Foundation, Microsoft en OpenAI's relatie in twijfel getrokkenen moedigde de Europese Commissie aan om een onderzoek in te stellen naar het overtreden van de antitrustregels.
De onderzoeken van de FTC zijn er ook op gericht om te beoordelen of deze partnerschappen ongepaste invloed of bevoorrechte toegang verlenen aan de grotere bedrijven, waardoor de eerlijke concurrentie wordt ondermijnd.
Nu deze technologieën steeds meer ingebed raken in verschillende aspecten van de samenleving, is er duidelijk behoefte aan een regelgevend kader dat innovatie in evenwicht brengt met ethische overwegingen, bescherming van de privacy en eerlijkheid van de markt. Het blijft afwachten.
De uitkomsten van deze onderzoeken en regelgevende inspanningen zullen waarschijnlijk belangrijke precedenten scheppen voor de governance van AI-technologieën in de toekomst, en het traject van de ontwikkeling van AI en de integratie ervan in de wereldwijde digitale economie vormgeven.
