Европейская группа по защите конфиденциальности нойб подает в суд OpenAI потому что ChatGPT постоянно генерирует недостоверную информацию о людях и не хочет ее исправлять.
Несмотря на свои достижения, ChatGPT по-прежнему страдает от склонности к галлюцинировать когда не знает ответа на вопрос.
Неназванный общественный деятель, которого нойб представляет себя обиженным, когда ChatGPT неоднократно ошибались в дате своего рождения. Когда ее запрашивали, модель просто придумывала дату, вместо того чтобы сказать, что у нее нет такой информации.
Кому-то это может показаться пустяком, но введение в заблуждение относительно личной информации может привести к серьезным последствиям, поэтому в Европе это считается серьезным делом. GDPR Правила гласят, что публикуемая информация о людях должна быть точной.
Если общедоступная информация неточна, человек имеет право потребовать ее исправления или удаления. Он также имеет право знать, откуда была получена его информация, где и как она хранится.
OpenAI говорит, что ничем не может помочь. Он не может (или не хочет) сказать, что обучающие данные он используется для сбора информации о человеке и говорит, что не может остановиться ChatGPT не делать фактологически неточных заявлений о человеке или других людях.
Компания заявила, что может фильтровать запросы о человеке, но не без блокировки всех ответов, связанных с ним. OpenAI говорит, что "точность фактов в больших языковых моделях остается областью активных исследований".
Другими словами, они знают, что это проблема, но не уверены, как ее решить.
нойб подал жалобу на ChatGPT создатель OpenAI
OpenAI открыто признает, что не в состоянии исправить ложную информацию о людях на ChatGPT. Компания даже не может сказать, откуда берутся данные.
Читайте об этом здесь
https://t.co/gvn9CnGKOb
- noyb (@NOYBeu) 29 апреля 2024 года
В своем заявлении, поданном в австрийский орган по защите данных (DSB), нойб говорит OpenAI "заявил, что не существует способа предотвратить его
системы от отображения неточной даты рождения субъекта данных в выходных данных, если пользователь запрашивает эту информацию".
нойбчто расшифровывается как "не ваше дело", говорит, что "простое составление данных о людях - это не вариант", и что OpenAIРеакция на этот вопрос недостаточно хороша.
Маартье де Грааф, юрист по защите данных из компании нойб сказал: "Обязанность выполнять запросы о доступе распространяется на все компании. Очевидно, что можно вести учет данных об обучении, которые были использованы, по крайней мере, иметь представление об источниках информации. Похоже, что с каждым "нововведением" очередная группа компаний считает, что ее продукция не обязана соответствовать закону".
OpenAI может быть объектом этого иска, но проблема ChatGPT с выдумыванием ложной информации - это проблема и других моделей.
Пока модели искусственного интеллекта не научатся говорить "я не знаю", а их создатели не будут открыто рассказывать о своих учебных данных, подобные проблемы будут возникать постоянно.
Европейские пользователи должны будут решить, насколько полезен такой инструмент, как ChatGPT является более или менее ценным, чем их права, закрепленные в GDPR.
Пока что они не могут получить ни того, ни другого.
