La autoridad italiana de protección de datos, Garante, expresó su preocupación por que ChatGPT de OpenAI pueda infringir el Reglamento General de Protección de Datos (RGPD) de la Unión Europea.
Ello se deriva de una investigación iniciada el año pasado a raíz de un prohibición temporal de ChatGPT en Italia. La investigación puso de manifiesto posibles problemas relacionados con el tratamiento de datos personales y con los procesos de verificación de la edad.
La investigación de la Autoridad Italiana de Protección de Datos estuvo motivada por varios factores, entre ellos los incidentes en los que se expusieron inadvertidamente mensajes de ChatGPT y datos de pago y la falta de control de la edad de los menores.
Además, la autoridad cuestionó la legalidad de las prácticas de recopilación de datos de OpenAI utilizadas para entrenar a ChatGPT y dio la voz de alarma sobre la generación ocasional por parte de la IA de información inexacta sobre las personas.
Las empresas de IA han sido objeto de un intenso escrutinio por sus prácticas de raspado de datos, con numerosas demandas por derechos de autor actualmente en curso.
También hay varios ejemplos de "alucinaciones" de IA que difaman a personas, a veces acusándolas accidentalmente de delitos como malversación o acoso sexual. Demandas por difamación se han presentado contra desarrolladores de IA, pero de momento no son concluyentes.
En respuesta a estas acusaciones, OpenAI ha afirmado su compromiso con el cumplimiento del GDPR y otras leyes de privacidad, enfatizando su dedicación a la protección de datos y la privacidad.
El comunicado de OpenAI destacó además sus esfuerzos para minimizar la inclusión de datos personales en sus procesos de formación y el diseño de su sistema para rechazar solicitudes de información privada o sensible, afirmando: "Creemos que nuestras prácticas se alinean con GDPR y otras leyes de privacidad, y tomamos medidas adicionales para proteger los datos y la privacidad de las personas."
El escrutinio mundial de las inversiones en IA
Mientras tanto, la Comisión Federal de Comercio de EE.UU. (FTC), bajo la presidencia de Lina Khan, está investigando la relaciones entre las principales empresas de IAcomo OpenAI, y gigantes tecnológicos como Microsoft, Amazon y Google.
Esta semana, varios grupos y organizaciones de derechos civiles, como la Fundación Mozilla, cuestionó la relación entre Microsoft y OpenAIanimando a la Comisión Europea a investigarlos por infringir la normativa antimonopolio.
Del mismo modo, las investigaciones de la FTC pretenden evaluar si estas asociaciones conceden una influencia indebida o un acceso privilegiado a las grandes empresas, socavando la competencia leal.
A medida que estas tecnologías se integran cada vez más en diversos aspectos de la sociedad, resulta obvia la necesidad de un marco regulador que equilibre la innovación con las consideraciones éticas, la protección de la intimidad y la equidad del mercado. Sigue siendo inminente.
Los resultados de estas investigaciones y de los esfuerzos reguladores sentarán probablemente precedentes importantes para la gobernanza de las tecnologías de IA en el futuro, configurando la trayectoria del desarrollo de la IA y su integración en la economía digital mundial.