Na quarta-feira, a União Europeia registou progressos significativos na aplicação da Lei da IA, a primeira legislação global do mundo em matéria de IA.
O Parlamento Europeu aprovou um projeto de lei para a lei, que adopta uma abordagem escalonada para regulamentar a IA, classificando as utilizações em diferentes categorias de risco.
Os níveis incluem uma categoria de risco "inaceitável" proibida para as IAs que põem em perigo a segurança das pessoas e os direitos humanos e uma categoria de "alto risco" para as IAs que envolvem infra-estruturas críticas, eleições, emprego e outras áreas de potenciais danos.
Seguem-se as categorias de "risco limitado" e de "risco mínimo".
A votação de quarta-feira confirmou várias alterações à proposta de lei e recebeu 499 votos a favor, 28 contra e 93 ausências.
BREAKING: Com uma maioria esmagadora, o Parlamento Europeu adopta a primeira lei global sobre IA do mundo.
A UE estabelece uma norma mundial: A IA deve trabalhar em prol da democracia, da segurança e do planeta.
Proíbe os sistemas de reconhecimento de emoções e de recomendação de redes sociais classificados como "de alto risco" !https://t.co/BBrxznStdR pic.twitter.com/9fLwEiqKTf
- Alice St⭕️llmeyer (@StollmeyerEU) 14 de junho de 2023
Quais foram as alterações?
Em primeiro lugar, a UE alargou a lista de IAs de risco "inaceitável" proibidas, que agora inclui:
- IA para pontuação social, em que os indivíduos são classificados com base no seu comportamento social ou características pessoais.
- Sistemas de identificação biométrica remota em tempo real em espaços públicos.
- Sistemas de identificação biométrica à distância, exceto em casos de aplicação da lei que visem crimes graves e apenas com autorização judicial.
- Sistemas de categorização biométrica que utilizam características sensíveis como o género, a raça, a etnia, o estatuto de cidadão, a religião e a orientação política.
- Sistemas de policiamento preditivo que dependem da definição de perfis, localização ou comportamento criminal anterior.
- Sistemas de reconhecimento de emoções utilizados na aplicação da lei, gestão de fronteiras, locais de trabalho e instituições de ensino.
- Recolha não direccionada de imagens faciais da Internet ou de imagens de CCTV para criar bases de dados de reconhecimento facial.
As aplicações de IA de "alto risco" de segundo nível incluem agora sistemas que podem influenciar eleições e algoritmos de recomendação utilizados por grandes plataformas de redes sociais.
Quanto às IA generativas, como o ChatGPT, os criadores são obrigados a avaliar e atenuar ativamente os riscos para a saúde, a segurança, os direitos fundamentais, o ambiente, a democracia e o Estado de direito. Terão também de registar os seus modelos na base de dados da UE para poderem operar no mercado comunitário.
Além disso, as empresas de IA devem aumentar as salvaguardas contra a produção de conteúdos ilegais e fornecer resumos pormenorizados dos dados de formação protegidos por direitos de autor. Outras alterações à lei incluem isenções para as PME e actividades de investigação de fonte aberta.
O incumprimento poderá levar as empresas a serem obrigadas a apagar aplicações e a multas que podem ir até 7% das suas receitas. Dragos Tudorache, funcionário da UE, afirmou que "há muitos dentes afiados". As multas aplicadas por violações do RGPD - incluindo uma multa de 1,2 mil milhões de euros para a Meta e uma multa de 746 milhões de euros para a Amazon - mostram que a UE pode impor tais acções.
A presidente do Parlamento Europeu, Roberta Metsola, descreveu o projeto de lei como "uma legislação que irá, sem dúvida, estabelecer o padrão global para os próximos anos", acrescentando que a IA está a entrar "numa nova era de controlo".
Após a votação, o funcionário da UE Brando Benifei disseHoje, todos os olhos estão postos em nós. Enquanto as grandes empresas tecnológicas fazem soar o alarme sobre as suas próprias criações, a Europa avançou e propôs uma resposta concreta aos riscos que a IA começa a representar. Queremos que o potencial positivo da IA para a criatividade e a produtividade seja aproveitado, mas também lutaremos para proteger a nossa posição e combater os perigos para as nossas democracias e liberdades durante as negociações com o Conselho".
Após a votação de quarta-feira, o Ato entra na sua fase final, incluindo a negociação com o Parlamento Europeu, a Comissão Europeia e o Conselho da União Europeia.
Prevê-se que a lei entre em vigor em 2026.
