Europeisk intresseorganisation för integritetsskydd noyb stämmer OpenAI eftersom ChatGPT upprepade gånger genererar felaktig information om människor och inte vill åtgärda det.
Trots sina framsteg, ChatGPT lider fortfarande av en tendens att hallucinera när den inte vet svaret på en fråga.
Den icke namngivna offentliga person som noyb representerar kände sig kränkt när ChatGPT upprepade gånger fått fel födelsedatum. På uppmaning hittade modellen helt enkelt på ett datum i stället för att säga att den inte hade informationen.
Det kan låta trivialt för vissa, men vilseledande personuppgifter kan få allvarliga konsekvenser, vilket är anledningen till att det anses vara en stor sak i Europa. GDPR Reglerna säger att publicerad information om enskilda personer måste vara korrekt.
Om offentligt tillgänglig information är felaktig har en enskild person rätt att begära att den korrigeras eller raderas. De har också rätt att få veta varifrån deras information har samlats in och var och hur den lagras.
OpenAI säger att den inte kan hjälpa till med något av det. Det kan inte (eller vill inte) säga vad utbildningsdata den används för att samla in information om personen och säger att den inte kan stoppa ChatGPT från att göra faktamässigt felaktiga uttalanden om personen eller andra.
Företaget sa att det kunde filtrera förfrågningar om personen, men inte utan att blockera alla svar som rörde dem. OpenAI säger att "faktauppgifter i stora språkmodeller fortfarande är ett område för aktiv forskning".
Med andra ord vet de att det är ett problem, men de är inte säkra på hur de ska lösa det.
🚨 noyb har lämnat in ett klagomål mot ChatGPT skapare OpenAI
OpenAI medger öppet att det inte kan korrigera felaktig information om personer på ChatGPT. Företaget kan inte ens säga varifrån uppgifterna kommer.
Läs allt om det här 👇https://t.co/gvn9CnGKOb
- noyb (@NOYBeu) 29 april 2024
I sin ansökan till den österrikiska dataskyddsmyndigheten (DSB), noyb säger OpenAI "konstaterade att det inte finns något sätt att förhindra dess
system från att visa den registrerades felaktiga födelsedatum i utdata, om användaren ber om denna information."
noybsom står för "none of your business", säger att "det inte är ett alternativ att bara hitta på uppgifter om enskilda personer" och att OpenAIsvar på frågan är inte tillräckligt bra.
Maartje de Graaf, dataskyddsjurist på noyb "Skyldigheten att efterkomma begäran om tillgång till uppgifter gäller alla företag. Det är helt klart möjligt att föra register över utbildningsdata som använts och åtminstone ha en uppfattning om informationskällorna. Det verkar som om det för varje "innovation" finns en annan grupp företag som anser att deras produkter inte behöver följa lagen."
OpenAI kan vara målet för denna stämning, men problemet ChatGPT har med att hitta på falsk information är ett problem som andra modeller också har.
Tills AI-modeller kan lära sig att säga "jag vet inte" och deras skapare kan vara öppna om sina träningsdata kommer problem som detta att fortsätta att inträffa.
Europeiska användare kommer att behöva avgöra om nyttan av ett verktyg som ChatGPT är mer eller mindre värdefulla än deras rättigheter enligt dataskyddsförordningen.
För närvarande kan de inte få både och.
