O Parlamento Europeu aprovou a primeira legislação abrangente sobre IA do mundo, o que suscita tanto entusiasmo como preocupação.
Foram expressos 523 votos a favor da lei, 46 contra e 49 abstenções. A lei entrará em vigor provavelmente em maio próximo.
O AI Act introduz uma abordagem inovadora e baseada no risco para a governação da IA. Classifica os sistemas de IA com base nas suas potenciais ameaças e regula-os em conformidade.
O processo legislativo da UE é notoriamente complexo e este é o culminar de vários anos de esforços e de alguns momentos difíceis em que alguns países hesitaram quanto ao impacto da lei nas suas economias e na concorrência.
A sua trajetória sofreu um novo golpe em junho do ano passado, quando cerca de 150 grandes empresas europeias advertido contra a prossecução de regulamentações restritivas.
A espera terminou finalmente. Desde as ferramentas quotidianas, como os filtros de spam, até aos sistemas mais complexos utilizados nos cuidados de saúde e na aplicação da lei, a Lei da IA é muito abrangente.
Entre as suas regras mais notáveis, a lei proíbe totalmente os sistemas de IA capazes de manipular o comportamento cognitivo, a pontuação social e a identificação biométrica não autorizada.
Depois, há a categoria de "alto risco", que inclui a IA em infra-estruturas críticas, ferramentas educativas, gestão do emprego e muito mais. Estes sistemas serão submetidos a avaliações rigorosas antes e depois do lançamento no mercado. O público tem o poder de alertar as autoridades designadas para estes sistemas de IA.
A IA generativa, como o ChatGPT da OpenAI, recebe uma atenção especial na lei. Embora não sejam consideradas de alto risco, espera-se que estas plataformas sejam transparentes quanto ao seu funcionamento e aos dados com que treinam, em conformidade com as leis de direitos de autor da UE.
Segue-se um breve resumo das principais regras da lei:
- Sistemas de IA proibidos: Envolvem a manipulação cognitivo-comportamental, a pontuação social, a identificação biométrica não autorizada e o reconhecimento facial em tempo real/remoto.
- Sistemas de IA de alto risco: Relacionadas com infra-estruturas críticas, educação/formação profissional, componentes de segurança dos produtos, emprego e gestão de trabalhadores, serviços públicos e privados essenciais, aplicação da lei, migração/asilo/controlo de fronteiras e administração da justiça/processos democráticos.
- Avaliação e queixas: Os sistemas de IA de alto risco serão objeto de avaliações antes do lançamento no mercado e durante todo o seu ciclo de vida. As pessoas têm o direito de apresentar queixas às autoridades nacionais.
- IA generativa: Os sistemas como o ChatGPT têm de cumprir os requisitos de transparência e a legislação da UE em matéria de direitos de autor, incluindo a divulgação de conteúdos gerados por IA, a prevenção da criação de conteúdos ilegais e o resumo dos dados protegidos por direitos de autor utilizados para a formação.
- Calendário de execução: A lei sobre a IA deverá entrar em vigor em meados de 2024 e as suas disposições serão aplicadas por fases ao longo de dois anos. Os sistemas proibidos devem ser progressivamente eliminados no prazo de seis meses, as regras para a IA de uso geral aplicam-se após um ano e a aplicação plena começa dois anos após a entrada em vigor da lei.
- Coimas: O incumprimento pode resultar em coimas até 35 milhões de euros ou 7% do volume de negócios anual a nível mundial.
Para além de regulamentar a formação e a utilização da IA, um dos aspectos mais aguardados da lei eram as regras relativas aos direitos de autor. Estas incluem algumas das seguintes:
- Os modelos de IA concebidos para uma vasta gama de utilizações devem divulgar resumos dos dados de treino que utilizam.
- As divulgações devem ser suficientemente pormenorizadas para permitir aos criadores identificar se o seu conteúdo foi utilizado na formação.
- Este requisito aplica-se igualmente aos modelos de fonte aberta.
- Quaisquer alterações a estes modelos, como a afinação, devem também incluir informações sobre os dados de treino utilizados.
- Estas regras aplicam-se a qualquer modelo oferecido no mercado da UE, independentemente do local onde foi desenvolvido.
- As pequenas e médias empresas (PME) serão objeto de uma aplicação mais flexível, mas devem continuar a respeitar a legislação em matéria de direitos de autor.
- A atual disposição que permite aos criadores excluir o seu trabalho de ser utilizado na formação em IA mantém-se em vigor.
Este parece ser um passo em frente na proteção dos dados das pessoas contra a utilização para o treino de modelos de IA sem a sua autorização.
As disposições da Lei da IA entrarão gradualmente em vigor, devendo tornar-se lei em meados de 2024.
A UE espera que as práticas ou projectos de IA proibidos sejam terminados no prazo de seis meses. Um ano depois, os sistemas de IA de uso geral devem cumprir as novas regras e, no prazo de dois anos, a lei entra em vigor na sua totalidade.
Embora a lei tenha tanto apoiantes como críticosé um evento de referência para a indústria tecnológica e desafia outras regiões a acelerarem as suas estratégias de governação da IA.
O eurodeputado Dragos Tudorache explicou como o ato legislativo assinala uma nova era para a tecnologia de IA: "O ato legislativo sobre a IA não é o fim da jornada, mas sim o ponto de partida para uma nova governação construída em torno da tecnologia", sublinhando o espírito pioneiro desta legislação.
À medida que as empresas, os gigantes da tecnologia e os governos de todo o mundo observam atentamente, é evidente que os efeitos desta legislação se farão sentir muito para além das fronteiras europeias. Em breve perceberemos o verdadeiro impacto.
