O recém-formado Centro para a Segurança da IA (CAIS) divulgou uma declaração na terça-feira, 30 de maio, assinada por 350 líderes da IA, académicos, engenheiros e outras figuras notáveis.
Os principais signatários incluem os pioneiros da IA Geoffery Hinton e Yoshua Bengio, o CEO da OpenAI Sam Altman e vários colegas, os CEOs da DeepMind, Anthropic e outras empresas líderes em IA, e académicos seniores do MIT, Berkeley, Universidade de Cambridge e outras instituições académicas de topo em todo o mundo.
"A atenuação do risco de extinção devido à IA deve ser uma prioridade global, a par de outros riscos à escala da sociedade, como as pandemias e a guerra nuclear" - Declaração do Centro para a Segurança da IA (CAIS) sobre a IA - 30 de maio de 2023.
O mês de maio foi marcado pela intensificação do debate sobre os impactos sociais da IA.
O diretor executivo da OpenAI, Sam Altman, testemunhou perante o Congresso sobre a segurança da IA e um dos primeiros pioneiros da IA, Geoffrey Hinton, deixou a Google para falar abertamente sobre a IA.
O CAIS baseia-se nas intenções dos líderes tecnológicos de se unirem e formarem um plano coeso para mitigar os riscos da IA, realçando simultaneamente as suas utilizações e benefícios. Os riscos são imediatos, por exemplo, perdas de emprego em massa, e a médio ou longo prazo, por exemplo, a IA autónoma começa a exceder a inteligência humana e perdemos o controlo.
Dan Hendrycks, diretor do Centro para a Segurança da IA, disse à Sky NewsO ser humano tem sido a espécie dominante na Terra devido à sua inteligência. Mas agora, como a IA está a tornar-se mais poderosa e mais inteligente, não vamos ocupar essa mesma posição no futuro".
IA: riscos tangíveis e intangíveis
Como termina o teu filme preferido sobre a IA? Há algo de quase inato nos riscos da IA, um medo instintivo do que acontece quando "os robots assumem o controlo".
No entanto, neste momento, os riscos a longo prazo da IA são sobretudo intangíveis e baseiam-se em grande medida em conjecturas, abstracções e projecções.
É provável que o primeiro impacto tangível da IA se faça sentir no mercado de trabalho, onde mais de 375 milhões de empregos estarão em risco até 2030. A IA está a evoluir rapidamente, pelo que esta pode ser uma estimativa conservadora. A IA também corre o risco de discriminação, falsificação de identidade, riscos de cibersegurança e armamento.
Os líderes tecnológicos e académicos reconhecem que estamos a atravessar um período de rápida inovação, em que os desenvolvimentos tecnológicos ultrapassam a investigação.
Isto já aconteceu várias vezes ao longo da história da humanidade, por exemplo, durante o advento da energia atómica e nuclear e a criação da Internet. No início do mês, Sam Altman, da OpenAI, encorajou a formação de uma agência internacional para a IA, semelhante à Agência Internacional da Energia Atómica formada na década de 1950.
Sejam quais forem os riscos da IA, é provável que os enfrentemos de frente, uma vez que é difícil imaginar que as grandes tecnologias consigam travar o seu progresso, e malguns analistas acreditam que a autorregulação é um sonho impossível.
Cépticos duvidam do progresso da IA
O debate sobre a IA não é unidirecional e há quem seja cético quanto à rapidez com que o debate evoluiu para uma narrativa ao nível da extinção.
Por exemplo, ainda não estamos a conseguir construir sistemas de IA eficazes, como carros sem condutor, que pareceriam rudimentares se a IA viesse a dominar o planeta.
Além disso, a inteligência computorizada da IA é difícil de comparar com a inteligência humana. Os seres humanos e outros organismos biológicos podem processar dados sensoriais complexos através dos cinco sentidos em meros milissegundos. Os robôs nem sequer conseguem competir com os bebés quando se trata de tarefas sensoriais.
Mais notável é a eficiência energética do cérebro humano - consome menos energia do que uma lâmpada. Atualmente, os centros de dados por detrás de IAs como o ChatGPT requerem a mesma quantidade de energia que uma cidade. A vantagem da biologia sobre os computadores vai para além da inteligência.
No entanto, embora seja fácil apontar falhas nas visões futuristas de robôs que dominam o planeta, isso não exclui a possibilidade de os humanos utilizarem a IA para alargar as suas próprias capacidades para fins negativos, o que constitui um risco muito mais imediato. Para já, o risco reside em nós e não na tecnologia em si.
Embora a IA ainda tenha um longo caminho a percorrer antes de caminhar literalmente entre nós, a declaração do CAIS é um marco significativo para mitigar riscos iminentes, como a substituição de empregos por IA, o engano e o armamento.
Para dar mais credibilidade à mensagem, é preciso ver em breve provas de colaboração entre os protagonistas, o que é mais do que assinar declarações.
