O Snapchat está a ser analisado pelo Gabinete do Comissário para a Informação (ICO) do Reino Unido devido aos potenciais riscos para a privacidade das crianças colocados pelo seu chatbot de IA.
O A OIC manifestou preocupações sobre a funcionalidade "My AI" do Snapchat, alertando para o facto de esta poder vir a ser encerrada no Reino Unido enquanto se aguarda uma nova análise.
A ferramenta "My AI" do Snapchat permite que os utilizadores conversem com um computador que emula a interação humana. Esta funcionalidade é alimentada pelo ChatGPT, uma ferramenta de IA de ponta conhecida pela sua imitação realista das respostas humanas.
Uma das principais preocupações em relação ao "My AI" prende-se com a sua base de utilizadores mais jovens e com o facto de estes compreenderem verdadeiramente as implicações da recolha de dados.
No Reino Unido, o Snapchat conta com 21 milhões de utilizadores, um número significativo dos quais são menores. A principal preocupação do ICO prende-se com as implicações para a privacidade dos utilizadores com idades compreendidas entre os 13 e os 17 anos.
A IA atraiu atenções indesejadas quando sofreu "uma interrupção de serviço' e publicou uma foto misteriosa em milhões de histórias de utilizadores.
O Snapchat My AI de mais alguém publica na sua história???? pic.twitter.com/8DNAKe1JXI
- Landon Reinhardt (@landonian87) 16 de agosto de 2023
Assim que o My AI voltou a estar online, disse: "O post foi uma 'forma divertida de misturar as coisas'", chamando-lhe uma "partida de fantasmas assustadores" que foi "hilariante".
Montagem sob pressão no Snap
Após uma notificação preliminar do ICO, a Snap respondeu afirmando seu compromisso de trabalhar em colaboração com o regulador. Também enfatizou que uma avaliação legal e de privacidade abrangente foi realizada antes do lançamento do chatbot.
No entanto, o ICO esclareceu que as suas actuais observações são inconclusivas.
O aviso atual serve para recordar à Snap que deve garantir que "My AI" cumpre as normas de proteção de dados, incluindo Código de Design para Criançasque define 15 normas para proteger os dados em linha das crianças.
O ICO sublinhou que, se emitir uma notificação final de execução, a Snap poderá ser impedida de oferecer a funcionalidade "My AI" à sua base de utilizadores do Reino Unido até efetuar uma avaliação de risco satisfatória.
Descrito pela empresa como "um chatbot experimental e amigável", o "My AI" foi concebido para atuar como um ajudante pessoal para cada utilizador do Snapchat. O CEO da Snap, Evan Spiegel, afirma que a funcionalidade testemunha mais de dois milhões de interacções diárias.
Desde o seu lançamento, o Snapchat reconhece que, embora o chatbot tenha evoluído, ocasionalmente comete erros. A empresa aconselha os utilizadores a não confiarem apenas nos conselhos do chatbot.
Há também preocupações crescentes sobre se o bot pode aceder a detalhes privados, como dados de localização. No entanto, o Snapchat garante que as informações de localização só são acedidas com o consentimento do utilizador.
John Edwards, Comissário para a Informação, declarou: "As conclusões provisórias da nossa investigação sugerem uma falha preocupante da Snap em identificar e avaliar adequadamente os riscos para a privacidade das crianças e de outros utilizadores antes de lançar o My AI."
Manifestou ainda o empenho do ICO em salvaguardar os direitos de privacidade dos consumidores britânicos, salientando a possibilidade de acções rigorosas contra potenciais violações.
Em casos graves, o ICO pode impor coimas até 17,5 milhões de libras ou 4% das receitas globais do ano anterior de uma empresa, consoante o valor mais elevado.
Um porta-voz da Snap respondeu: "Estamos a analisar atentamente a decisão provisória do ICO. Estamos empenhados em proteger a privacidade dos nossos utilizadores. Continuaremos a trabalhar de forma construtiva com o ICO para garantir que se sentem confortáveis com os nossos procedimentos de avaliação de riscos."
A próxima etapa permitirá à Snap responder às preocupações do ICO antes de tomar uma decisão final.
