OpenAI aangeklaagd voor valse informatie, maar zegt dat het probleem niet kan worden opgelost

4 mei 2024
  • De Europese privacy-organisatie noyb klaagt OpenAI aan voor onjuiste ChatGPT-informatie.
  • noyb vertegenwoordigt een publiek figuur die klaagde dat ChatGPT zijn geboortedatum onjuist had vermeld
  • OpenAI zegt dat het onjuiste ChatGPT-informatie niet kan herstellen om te voldoen aan GDPR-regels

Europese privacy-organisatie noyb klaagt OpenAI omdat ChatGPT genereert herhaaldelijk onjuiste informatie over mensen en lost dit niet op.

Ondanks de vooruitgang, ChatGPT heeft nog steeds de neiging om hallucineren wanneer het het antwoord op een vraag niet weet.

De naamloze publieke figuur die noyb vertegenwoordigt voelde zich gekrenkt toen ChatGPT hadden herhaaldelijk hun geboortedatum verkeerd. Wanneer het model hierom werd gevraagd, verzon het gewoon een datum in plaats van te zeggen dat het de informatie niet had.

Voor sommigen klinkt het misschien triviaal, maar het misleiden van persoonlijke informatie kan ernstige gevolgen hebben. GDPR Volgens de regels moet gepubliceerde informatie over personen nauwkeurig zijn.

Als openbaar beschikbare informatie onnauwkeurig is, heeft een persoon het recht om te vragen dat deze wordt gecorrigeerd of verwijderd. Ze hebben ook het recht om te weten waar hun informatie vandaan komt en waar en hoe deze wordt opgeslagen.

OpenAI zegt dat het daar niet mee kan helpen. Het kan (of wil) niet zeggen wat trainingsgegevens het gebruikt om informatie over de persoon te verzamelen en zegt dat het niet kan stoppen ChatGPT van het doen van feitelijk onjuiste uitspraken over de persoon of anderen.

Het bedrijf zei dat het verzoeken over de persoon kon filteren, maar niet zonder alle reacties over de persoon te blokkeren. OpenAI zegt dat, "feitelijke nauwkeurigheid in grote taalmodellen een gebied van actief onderzoek blijft".

Met andere woorden, ze weten dat het een probleem is, maar ze weten niet zeker hoe ze het moeten oplossen.

In haar aanvraag bij de Oostenrijkse gegevensbeschermingsautoriteit (DSB), noyb zegt OpenAI "verklaarde dat er geen manier is om zijn
systemen om de onjuiste geboortedatum van de betrokkene in de uitvoer weer te geven als de gebruiker om deze informatie vraagt."

noyb, wat staat voor "gaat je niets aan", zegt dat "het simpelweg verzinnen van gegevens over individuen geen optie is" en dat OpenAIis niet goed genoeg.

Maartje de Graaf, advocaat gegevensbescherming bij noyb zei: "De verplichting om te voldoen aan verzoeken om toegang geldt voor alle bedrijven. Het is duidelijk mogelijk om een administratie bij te houden van de gebruikte trainingsgegevens om op zijn minst een idee te hebben van de informatiebronnen. Het lijkt erop dat met elke 'innovatie' een andere groep bedrijven denkt dat hun producten niet aan de wet hoeven te voldoen."

OpenAI is misschien het doelwit van deze rechtszaak, maar het probleem ChatGPT heeft met het verzinnen van valse informatie is een probleem dat andere modellen ook hebben.

Totdat AI-modellen kunnen leren om "ik weet het niet" te zeggen en hun makers open kunnen zijn over hun trainingsgegevens, zullen dit soort problemen zich blijven voordoen.

Europese gebruikers zullen moeten beslissen of het nut van een tool als ChatGPT meer of minder waardevol is dan hun rechten die zijn vastgelegd in de GDPR.

Voorlopig kunnen ze niet allebei hebben.

Doe mee met de toekomst


SCHRIJF JE VANDAAG NOG IN

Duidelijk, beknopt, uitgebreid. Krijg grip op AI-ontwikkelingen met DailyAI

Eugene van der Watt

Eugene heeft een achtergrond in elektrotechniek en houdt van alles wat met techniek te maken heeft. Als hij even pauzeert van het consumeren van AI-nieuws, kun je hem aan de snookertafel vinden.

×
 
 

GRATIS PDF EXCLUSIEF
Blijf voorop met DailyAI


 

Meld je aan voor onze wekelijkse nieuwsbrief en ontvang exclusieve toegang tot DailyAI's nieuwste eBook: 'Mastering AI Tools: Your 2024 Guide to Enhanced Productivity'.



 
 

* Door u aan te melden voor onze nieuwsbrief accepteert u onze Privacybeleid en onze Algemene voorwaarden