O governo do Reino Unido publicou o seu relatório "Capabilities and risks from frontier AI" (Capacidades e riscos da IA de fronteira), que constituirá a base de discussão na próxima Cimeira sobre Segurança da IA.
O relatório apresenta uma panorâmica das capacidades actuais e futuras e dos riscos associados aos modelos de fronteira. Os modelos de fronteira são modelos de IA de objetivo geral altamente capazes que podem executar uma grande variedade de tarefas, como o GPT-4 ou o Llama 2.
Antes de abordar os riscos actuais e futuros, o relatório reconhece que a IA tem o potencial de melhorar as nossas vidas de muitas formas. Na sua introdução, o relatório afirma que, devido à IA, "encontramo-nos no meio de uma revolução tecnológica que irá alterar fundamentalmente a forma como vivemos, trabalhamos e nos relacionamos uns com os outros".
São os riscos e os cenários catastróficos delineados no relatório que constituem uma leitura particularmente interessante.
Riscos futuros da IA
O relatório refere que "a complexidade dos domínios abertos torna difícil conceber sistemas seguros ou avaliar exaustivamente todos os casos de utilização a jusante". Basicamente, estão a dizer que a IA é uma ferramenta muito parecida com uma caneta; podemos fazê-la funcionar bem, mas não podemos impedir que alguém a utilize para escrever coisas más.
Os riscos subsequentes que decorrem da natureza de dupla utilização da IA preenchem dezenas de páginas do relatório e fazem-nos pensar o que é que a cimeira será alcançado em 2 dias.
Um risco notável referido no relatório é o de a futura IA procurar ativamente a autonomia. Segundo o relatório, "a perda de controlo pode ser acelerada se os sistemas de IA tomarem medidas para aumentar a sua própria influência e reduzir o controlo humano".
O relatório refere que a futura IA poderá desenvolver tanto a capacidade como a disposição para o fazer.
Embora reconhecendo que alguns peritos consideram que o os riscos da IA foram sobrestimadosO relatório não ignora as ameaças mais existenciais.
A IA pode fazer avançar rapidamente os cuidados de saúde, a ciência e a energia, mas temos de a aproveitar de forma segura.
O Governo publicou um documento de reflexão sobre os riscos e as capacidades da IA de fronteira:https://t.co/YIjyZsgcbe
Leia um resumo abaixo 👇
(1/4) pic.twitter.com/FJdbKcqk4e- Ministério da Ciência, da Inovação e da Tecnologia (@SciTechgovuk) 26 de outubro de 2023
Cenários do fim da IA
O relatório afirma: "Dada a incerteza significativa na previsão da evolução da IA, não há provas suficientes para excluir que os futuros sistemas de IA altamente capazes da Frontier, se desalinhados ou inadequadamente controlados, possam representar uma ameaça existencial".
Uma das formas de isso acontecer é se "à medida que a capacidade da IA aumenta, os humanos concedem à IA mais controlo sobre sistemas críticos e acabam por se tornar irreversivelmente dependentes de sistemas que não compreendem totalmente".
Se as luzes se apagarem e a IA for a única pessoa que sabe onde está o interrutor, podemos ficar às escuras durante algum tempo.
Num cenário futurista, o relatório descreve aquilo a que chama um "Oeste Selvagem da IA". Neste cenário, que se situa em 2030, "as autoridades estão a debater-se com o volume e a diversidade de utilizações indevidas. A concentração na resolução dos impactos imediatos desta crise dificultou a obtenção de um consenso global sobre a forma de gerir os problemas a longo prazo".
Isto não parece ser o futuro, parece ser o que está a acontecer neste momento. É improvável que uma cimeira de dois dias faça muita mossa nos riscos alarmantes descritos neste relatório.
A Cimeira de Segurança da IA baseia-se na ideia de que a IA "segura" é possível se nos esforçarmos o suficiente. Mas será possível?
Se um AGI já estiver na natureza, pode facilmente ler as preocupações descritas neste relatório e depois esconder a sua capacidade ou intenção de realizar estes cenários. Até ser demasiado tarde.
