A Cimeira de Segurança da IA do Reino Unido, agendada para os dias 1 e 2 de novembro de 2023, revelou o programa completo para o primeiro dia.
Com o objetivo de definir abordagens para o desenvolvimento de uma IA segura, o evento promete uma reunião de governos internacionais, grandes empresas de IA e peritos de investigação de renome.
Nomeadamente, os representantes da China são presença prevista apesar da escalada das tensões geopolíticas com os EUA.
O governo do Reino Unido tem divulgou o calendário completo do primeiro diaA Comissão Europeia vai apresentar ao Parlamento Europeu, em breve, todos os pormenores relativos ao segundo dia.
Dia 1: Navegar na fronteira da IA
O primeiro dia inclui tarefas relacionadas com os riscos e a segurança dos "modelos de fronteira", um termo que passou a definir modelos sofisticados de base como o GPT-4.
Plenário de abertura
A cimeira começa com uma sessão plenária de abertura com observações do Secretário de Estado do Ministério da Ciência, Inovação e Tecnologia do Reino Unido, seguida de contributos de nações que lideram o desenvolvimento da IA e do Frontier AI Taskforce do Reino Unido.
Debates em mesa redonda
Uma série de sessões de trabalho permitirá o diálogo multidisciplinar sobre várias questões críticas:
- Riscos globais de segurança decorrentes da má utilização da IA de fronteira: Avaliar as preocupações de segurança decorrentes de modelos de IA de fronteira recentes e futuros, centrando-se na biossegurança e na cibersegurança.
- Avanços imprevisíveis na capacidade de IA de fronteira: Debate sobre as implicações dos rápidos saltos nas capacidades de IA, o advento de novos métodos de previsão e a trajetória futura do desenvolvimento da IA, incluindo considerações sobre o código aberto.
- Potencial perda de controlo sobre a IA avançada: Contemplar cenários em que a IA ultrapassa a supervisão humana, os riscos associados e explorar ferramentas de prevenção e monitorização.
- Integração social da IA de ponta: Abordar os desafios relacionados com o papel da IA nas eleições, a parcialidade, a criminalidade, a segurança em linha e a desigualdade global, bem como debater as contramedidas existentes.
Melhorar a segurança da IA de fronteira
Outra série de mesas redondas centrar-se-á no reforço da segurança da IA:
- Dimensionamento responsável nos programadores de IA: Debate sobre as melhores práticas para o aumento responsável das capacidades, a avaliação dos riscos, a governação e a responsabilização no âmbito do desenvolvimento da IA de fronteira.
- O papel dos decisores políticos nacionais na IA: Debater medidas políticas para gerir os riscos da IA, incluindo o controlo, a responsabilização, o licenciamento e a gestão de modelos de IA de fonte aberta.
- Colaboração internacional no domínio da IA: Identificar os domínios em que a cooperação global é essencial para atenuar os riscos e aproveitar as oportunidades oferecidas pela IA de ponta.
- Contribuição da comunidade científica para a segurança da IA: Avaliação das soluções técnicas actuais para a segurança da IA, áreas de investigação urgentes e soluções emergentes.
O dia termina com um painel de discussão sobre o aproveitamento da IA para revolucionar a educação para as gerações vindouras, seguido das observações finais do Secretário de Estado do Reino Unido.
Dia 2: Moldar o futuro da IA
O primeiro-ministro Rishi Sunak liderará uma assembleia selecionada de representantes governamentais, líderes empresariais e especialistas para intensificar os debates sobre a gestão dos riscos emergentes da tecnologia de IA.
Numa sessão paralela, a Secretária para a Tecnologia do Reino Unido, Michelle Donelan, voltará a reunir-se com os seus homólogos internacionais para solidificar a linha de ação debatida durante a cimeira.
A Cimeira contará com a presença de patrões da tecnologia e políticos de topo
A cimeira contará com a presença de executivos de topo de Silicon Valley, incluindo Sam Altman, da OpenAI, Demis Hassabis, da Google Deepmind, e Dario Amodei, da Anthropic.
Outros participantes notáveis esperados na cimeira incluem representantes da xAI de Elon Musk e os directores executivos Alex Karp, Aidan Gomez e Emad Mostaque das empresas de IA Palantir, Cohere e Stability, respetivamente.
Além disso, os responsáveis políticos dos gigantes tecnológicos Meta e Microsoft, Sir Nick Clegg e Brad Smith, e James Manyika, da Google, também vão representar as respectivas empresas.
Para preparar a cimeira, as empresas participantes têm estado encorajados a subscrever uma declaraçãoque se espera que os líderes mundiais assinem no evento.
As negociações em curso, que envolvem funcionários dos EUA, da UE, dos países do G7 e da China, têm estado a decorrer para finalizar a redação desta declaração. Prevê-se que inclua um aviso severo sobre os potenciais "danos catastróficos" que a IA pode infligir se não for controlada.
As empresas também são convidadas a divulgar as suas políticas, detalhando os seus compromissos em matéria de "desenvolvimento e implementação seguros da IA", juntamente com as suas opiniões sobre a forma como a IA pode "resolver os problemas mais urgentes e importantes para a humanidade".
A vice-presidente dos EUA, Kamala Harris, deverá estar presente. O chanceler alemão Olaf Scholz terá recusado o convite, mas o presidente francês Emmanuel Macron e os representantes de É provável que a China participe.
Embora não se espere que a cimeira resulte diretamente na criação de um novo organismo regulador da IA ou de leis internacionais, pretende-se que seja um passo crucial para futuras regulamentações.
Um porta-voz do governo enfatizou a abordagem colaborativa da cimeira, afirmando: "A Cimeira de Segurança da IA reunirá um vasto leque de participantes, incluindo governos internacionais, universidades, indústria e sociedade civil, como parte de uma abordagem colaborativa para impulsionar uma ação internacional rápida e direccionada para o desenvolvimento seguro e responsável da IA".
