Europäische Gruppe für den Schutz der Privatsphäre noyb verklagt OpenAI denn ChatGPT immer wieder ungenaue Informationen über Personen generiert und diese nicht korrigieren will.
Trotz seiner Fortschritte, ChatGPT leidet immer noch unter einer Tendenz zur halluzinieren wenn es die Antwort auf eine Frage nicht kennt.
Die ungenannte Person des öffentlichen Lebens, die noyb vertritt, fühlte sich belästigt, als ChatGPT haben wiederholt ihr Geburtsdatum falsch angegeben. Wenn es danach gefragt wurde, erfand das Modell einfach ein Datum, anstatt zu sagen, dass es die Information nicht hatte.
Es mag für manche trivial klingen, aber falsche Angaben zur Person können schwerwiegende Folgen haben, weshalb dies in Europa als großes Problem angesehen wird. GDPR Die Regeln besagen, dass die veröffentlichten Informationen über Personen korrekt sein müssen.
Wenn öffentlich zugängliche Informationen ungenau sind, hat eine Person das Recht, ihre Berichtigung oder Löschung zu verlangen. Sie haben auch das Recht zu erfahren, woher ihre Informationen stammen und wo und wie sie gespeichert werden.
OpenAI sagt, dass es bei all dem nicht helfen kann. Sie kann (oder will) nicht sagen, was Trainingsdaten die zum Sammeln von Informationen über die Person verwendet wurde, und sagt, dass sie nicht aufhören kann ChatGPT sachlich unrichtige Aussagen über die Person oder andere zu machen.
Das Unternehmen sagte, es könne Anfragen zu dieser Person filtern, aber nicht, ohne alle Antworten zu dieser Person zu blockieren. OpenAI sagt, dass "faktische Genauigkeit in großen Sprachmodellen weiterhin ein aktives Forschungsgebiet ist".
Mit anderen Worten: Sie wissen, dass es ein Problem gibt, aber sie sind sich nicht sicher, wie sie es lösen können.
🚨 noyb hat eine Beschwerde gegen die ChatGPT Ersteller OpenAI
OpenAI gibt offen zu, dass sie nicht in der Lage ist, falsche Informationen über Personen im Internet zu korrigieren ChatGPT. Das Unternehmen kann nicht einmal sagen, woher die Daten stammen.
Lesen Sie hier alles darüber 👇.https://t.co/gvn9CnGKOb
- noyb (@NOYBeu) 29. April 2024
In ihrem Antrag an die österreichische Datenschutzbehörde (DSB), noyb sagt OpenAI "erklärte, dass es keine Möglichkeit gibt, seine
Systeme davon abhalten, das falsche Geburtsdatum der betroffenen Person in der Ausgabe anzuzeigen, wenn der Nutzer nach dieser Information fragt".
noybwas für "geht dich nichts an" steht, sagt: "Einfach Daten über Personen zu erfinden ist keine Option", und dass OpenAIDie Reaktion der Kommission auf dieses Problem ist nicht gut genug.
Maartje de Graaf, Juristin für Datenschutz bei noyb sagte: "Die Verpflichtung, Auskunftsersuchen zu erfüllen, gilt für alle Unternehmen. Es ist eindeutig möglich, Aufzeichnungen über die verwendeten Ausbildungsdaten zu führen, um zumindest eine Vorstellung von den Informationsquellen zu haben. Es scheint, dass mit jeder 'Innovation' eine andere Gruppe von Unternehmen denkt, dass ihre Produkte nicht mit dem Gesetz übereinstimmen müssen".
OpenAI mag das Ziel dieser Klage sein, aber das Problem ChatGPT mit dem Erfinden falscher Informationen hat, ist ein Problem, das auch andere Modelle haben.
Solange KI-Modelle nicht lernen, "Ich weiß es nicht" zu sagen, und ihre Entwickler nicht offen mit ihren Trainingsdaten umgehen können, wird es immer wieder zu Problemen wie diesem kommen.
Die europäischen Nutzer werden entscheiden müssen, ob der Nutzen eines Instruments wie ChatGPT mehr oder weniger wertvoll ist als ihre Rechte, die in der DSGVO verankert sind.
Im Moment können sie nicht beides haben.
