OpenAI stäms för falsk information men säger att problemet inte kan åtgärdas

4 maj 2024
  • Den europeiska integritetsgruppen noyb stämmer OpenAI för felaktig ChatGPT-information
  • noyb representerar en offentlig person som klagade på att ChatGPT felaktigt angav sitt födelsedatum
  • OpenAI säger att de inte kan korrigera felaktig ChatGPT-information för att följa GDPR-reglerna

Europeisk intresseorganisation för integritetsskydd noyb stämmer OpenAI eftersom ChatGPT upprepade gånger genererar felaktig information om människor och inte vill åtgärda det.

Trots sina framsteg, ChatGPT lider fortfarande av en tendens att hallucinera när den inte vet svaret på en fråga.

Den icke namngivna offentliga person som noyb representerar kände sig kränkt när ChatGPT upprepade gånger fått fel födelsedatum. På uppmaning hittade modellen helt enkelt på ett datum i stället för att säga att den inte hade informationen.

Det kan låta trivialt för vissa, men vilseledande personuppgifter kan få allvarliga konsekvenser, vilket är anledningen till att det anses vara en stor sak i Europa. GDPR Reglerna säger att publicerad information om enskilda personer måste vara korrekt.

Om offentligt tillgänglig information är felaktig har en enskild person rätt att begära att den korrigeras eller raderas. De har också rätt att få veta varifrån deras information har samlats in och var och hur den lagras.

OpenAI säger att den inte kan hjälpa till med något av det. Det kan inte (eller vill inte) säga vad utbildningsdata den används för att samla in information om personen och säger att den inte kan stoppa ChatGPT från att göra faktamässigt felaktiga uttalanden om personen eller andra.

Företaget sa att det kunde filtrera förfrågningar om personen, men inte utan att blockera alla svar som rörde dem. OpenAI säger att "faktauppgifter i stora språkmodeller fortfarande är ett område för aktiv forskning".

Med andra ord vet de att det är ett problem, men de är inte säkra på hur de ska lösa det.

I sin ansökan till den österrikiska dataskyddsmyndigheten (DSB), noyb säger OpenAI "konstaterade att det inte finns något sätt att förhindra dess
system från att visa den registrerades felaktiga födelsedatum i utdata, om användaren ber om denna information."

noybsom står för "none of your business", säger att "det inte är ett alternativ att bara hitta på uppgifter om enskilda personer" och att OpenAIsvar på frågan är inte tillräckligt bra.

Maartje de Graaf, dataskyddsjurist på noyb "Skyldigheten att efterkomma begäran om tillgång till uppgifter gäller alla företag. Det är helt klart möjligt att föra register över utbildningsdata som använts och åtminstone ha en uppfattning om informationskällorna. Det verkar som om det för varje "innovation" finns en annan grupp företag som anser att deras produkter inte behöver följa lagen."

OpenAI kan vara målet för denna stämning, men problemet ChatGPT har med att hitta på falsk information är ett problem som andra modeller också har.

Tills AI-modeller kan lära sig att säga "jag vet inte" och deras skapare kan vara öppna om sina träningsdata kommer problem som detta att fortsätta att inträffa.

Europeiska användare kommer att behöva avgöra om nyttan av ett verktyg som ChatGPT är mer eller mindre värdefulla än deras rättigheter enligt dataskyddsförordningen.

För närvarande kan de inte få både och.

Bli en del av framtiden


PRENUMERERA IDAG

Tydlig, kortfattad och heltäckande. Få grepp om AI-utvecklingen med DagligaAI

Eugene van der Watt

Eugene kommer från en bakgrund som elektronikingenjör och älskar allt som har med teknik att göra. När han tar en paus från att konsumera AI-nyheter hittar du honom vid snookerbordet.

×

GRATIS PDF EXKLUSIV
Ligg steget före med DailyAI

Registrera dig för vårt veckovisa nyhetsbrev och få exklusiv tillgång till DailyAI:s senaste e-bok: "Mastering AI Tools: Din 2024-guide till förbättrad produktivitet".

*Genom att prenumerera på vårt nyhetsbrev accepterar du vår Integritetspolicy och våra Villkor och anvisningar