A autoridade de proteção de dados de Itália, Garante, levantou preocupações de que o ChatGPT da OpenAI possa violar o Regulamento Geral de Proteção de Dados (RGPD) da União Europeia.
Esta ação decorre de um inquérito iniciado no ano passado na sequência de um proibição temporária do ChatGPT em Itália. A sondagem revelou potenciais problemas relacionados com o tratamento de dados pessoais e questões relacionadas com os processos de verificação da idade.
A investigação da autoridade italiana para a proteção de dados foi motivada por vários factores, incluindo incidentes em que as mensagens ChatGPT e os dados de pagamento foram inadvertidamente expostos e a falta de controlo da idade dos menores.
Além disso, a autoridade questionou a legalidade das práticas de recolha de dados da OpenAI utilizadas para treinar o ChatGPT e deu o alerta para o facto de a IA gerar ocasionalmente informações incorrectas sobre os indivíduos.
As empresas de IA têm estado sob intenso escrutínio devido às suas práticas de extração de dados, com numerosos acções judiciais por direitos de autor atualmente em curso.
Há também vários exemplos de "alucinações" de IA que difamam indivíduos, por vezes acusando-os acidentalmente de crimes como desvio de fundos ou assédio sexual. Acções judiciais por difamação foram intentadas contra os criadores de IA, mas são atualmente inconclusivas.
Em resposta a essas alegações, a OpenAI afirmou seu compromisso com a conformidade com o GDPR e outras leis de privacidade, enfatizando sua dedicação à proteção de dados e à privacidade.
A declaração da OpenAI destacou ainda os seus esforços para minimizar a inclusão de dados pessoais nos seus processos de formação e o design do seu sistema para rejeitar pedidos de informações privadas ou sensíveis, afirmando: "Acreditamos que as nossas práticas estão alinhadas com o RGPD e outras leis de privacidade, e tomamos medidas adicionais para proteger os dados e a privacidade das pessoas".
O escrutínio global dos investimentos em IA
Entretanto, a Comissão Federal do Comércio dos EUA (FTC), presidida por Lina Khan, está a investigar a relações entre as principais empresas de IAcomo a OpenAI, e gigantes da tecnologia como a Microsoft, a Amazon e a Google.
Esta semana, vários grupos e organizações de direitos civis, como a Fundação Mozilla, questionou a relação entre a Microsoft e a OpenAIA Comissão Europeia foi convidada a investigar a empresa por infração à legislação antitrust.
As investigações da FTC têm igualmente por objetivo avaliar se estas parcerias concedem influência indevida ou acesso privilegiado às empresas de maior dimensão, prejudicando a concorrência leal.
medida que estas tecnologias se vão integrando cada vez mais em vários aspectos da sociedade, é óbvia a necessidade de um quadro regulamentar que equilibre a inovação com considerações éticas, a proteção da privacidade e a equidade do mercado. E continua a ser necessário.
Os resultados destas investigações e esforços regulamentares estabelecerão provavelmente precedentes importantes para a governação das tecnologias de IA no futuro, moldando a trajetória do desenvolvimento da IA e a sua integração na economia digital global.
