OpenAI verklagt wegen falscher Angaben, sagt aber, das Problem könne nicht behoben werden

Mai 4, 2024
  • Die europäische Datenschutzgruppe noyb verklagt OpenAI wegen ungenauer ChatGPT-Informationen
  • noyb vertritt eine Person des öffentlichen Lebens, die sich beschwert hat, dass ChatGPT ihr Geburtsdatum falsch angegeben hat
  • OpenAI sagt, dass es ungenaue ChatGPT-Informationen nicht korrigieren kann, um die GDPR-Regeln einzuhalten

Europäische Gruppe für den Schutz der Privatsphäre noyb verklagt OpenAI denn ChatGPT immer wieder ungenaue Informationen über Personen generiert und diese nicht korrigieren will.

Trotz seiner Fortschritte, ChatGPT leidet immer noch unter einer Tendenz zur halluzinieren wenn es die Antwort auf eine Frage nicht kennt.

Die ungenannte Person des öffentlichen Lebens, die noyb vertritt, fühlte sich belästigt, als ChatGPT haben wiederholt ihr Geburtsdatum falsch angegeben. Wenn es danach gefragt wurde, erfand das Modell einfach ein Datum, anstatt zu sagen, dass es die Information nicht hatte.

Es mag für manche trivial klingen, aber falsche Angaben zur Person können schwerwiegende Folgen haben, weshalb dies in Europa als großes Problem angesehen wird. GDPR Die Regeln besagen, dass die veröffentlichten Informationen über Personen korrekt sein müssen.

Wenn öffentlich zugängliche Informationen ungenau sind, hat eine Person das Recht, ihre Berichtigung oder Löschung zu verlangen. Sie haben auch das Recht zu erfahren, woher ihre Informationen stammen und wo und wie sie gespeichert werden.

OpenAI sagt, dass es bei all dem nicht helfen kann. Sie kann (oder will) nicht sagen, was Trainingsdaten die zum Sammeln von Informationen über die Person verwendet wurde, und sagt, dass sie nicht aufhören kann ChatGPT sachlich unrichtige Aussagen über die Person oder andere zu machen.

Das Unternehmen sagte, es könne Anfragen zu dieser Person filtern, aber nicht, ohne alle Antworten zu dieser Person zu blockieren. OpenAI sagt, dass "faktische Genauigkeit in großen Sprachmodellen weiterhin ein aktives Forschungsgebiet ist".

Mit anderen Worten: Sie wissen, dass es ein Problem gibt, aber sie sind sich nicht sicher, wie sie es lösen können.

In ihrem Antrag an die österreichische Datenschutzbehörde (DSB), noyb sagt OpenAI "erklärte, dass es keine Möglichkeit gibt, seine
Systeme davon abhalten, das falsche Geburtsdatum der betroffenen Person in der Ausgabe anzuzeigen, wenn der Nutzer nach dieser Information fragt".

noybwas für "geht dich nichts an" steht, sagt: "Einfach Daten über Personen zu erfinden ist keine Option", und dass OpenAIDie Reaktion der Kommission auf dieses Problem ist nicht gut genug.

Maartje de Graaf, Juristin für Datenschutz bei noyb sagte: "Die Verpflichtung, Auskunftsersuchen zu erfüllen, gilt für alle Unternehmen. Es ist eindeutig möglich, Aufzeichnungen über die verwendeten Ausbildungsdaten zu führen, um zumindest eine Vorstellung von den Informationsquellen zu haben. Es scheint, dass mit jeder 'Innovation' eine andere Gruppe von Unternehmen denkt, dass ihre Produkte nicht mit dem Gesetz übereinstimmen müssen".

OpenAI mag das Ziel dieser Klage sein, aber das Problem ChatGPT mit dem Erfinden falscher Informationen hat, ist ein Problem, das auch andere Modelle haben.

Solange KI-Modelle nicht lernen, "Ich weiß es nicht" zu sagen, und ihre Entwickler nicht offen mit ihren Trainingsdaten umgehen können, wird es immer wieder zu Problemen wie diesem kommen.

Die europäischen Nutzer werden entscheiden müssen, ob der Nutzen eines Instruments wie ChatGPT mehr oder weniger wertvoll ist als ihre Rechte, die in der DSGVO verankert sind.

Im Moment können sie nicht beides haben.

Join The Future


HEUTE ABONNIEREN

Klar, prägnant, umfassend. Behalten Sie den Überblick über KI-Entwicklungen mit DailyAI

Eugene van der Watt

Eugene kommt aus der Elektronikbranche und liebt alles, was mit Technik zu tun hat. Wenn er eine Pause vom Konsum von KI-Nachrichten einlegt, findet man ihn am Snookertisch.

×

KOSTENLOSES PDF EXKLUSIV
Mit DailyAI immer einen Schritt voraus

Melden Sie sich für unseren wöchentlichen Newsletter an und erhalten Sie exklusiven Zugang zum neuesten eBook von DailyAI: 'Mastering AI Tools: Ihr Leitfaden für mehr Produktivität im Jahr 2024".

*Mit der Anmeldung zu unserem Newsletter akzeptieren Sie unsere Datenschutzbestimmungen und unsere Bedingungen und Konditionen