No segundo dia da Cimeira sobre Segurança da IA, o Primeiro-Ministro do Reino Unido, Rishi Sunak, tentou fazer valer a ideia de que os criadores de IA permitirão que o governo avalie as ferramentas antes do seu lançamento no mercado.
Sunak afirmou que os resultados da cimeira "farão pender a balança a favor da humanidade" e revelou que os líderes da indústria, incluindo a Meta, a Google Deep Mind e a OpenAI, consentiram em efetuar testes de pré-lançamento das suas inovações de IA - algo que já tinham declarado fazer num recente quadro voluntário desenvolvido pelos EUA.
Os compromissos assumidos durante o segundo dia da Cimeira incluíam a criação de um órgão de peritos designado por Instituto de Segurança da IA.
EM DIRECTO: Declaração do Primeiro-Ministro Rishi Sunak na Cimeira sobre Segurança da IA em Bletchley Park https://t.co/YLn6O8FO7f
- Primeiro-Ministro do Reino Unido (@10DowningStreet) 2 de novembro de 2023
Outra manchete do segundo dia é a revelação de um relatório sobre o "Estado da Ciência da IA", liderado pelo "padrinho da IA" Yoshio Bengio.
"Esta ideia é inspirada na forma como o Painel Intergovernamental sobre as Alterações Climáticas foi criado para chegar a um consenso científico internacional", disse Sunak.
O quadro acordado defende a realização de avaliações de segurança exaustivas dos modelos de IA antes e depois da sua entrada em funcionamento, dando ênfase aos esforços de ensaio em colaboração com os governos, em especial em domínios que afectam a segurança nacional e o bem-estar da sociedade.
O empenho da indústria nesta causa foi sublinhado pelas observações de Demis Hassabis, Diretor Executivo da Google DeepMind, que afirmou: "A IA pode ajudar a resolver alguns dos desafios mais críticos do nosso tempo, desde a cura de doenças até à resolução da crise climática. Mas também apresentará novos desafios para o mundo e temos de garantir que a tecnologia é construída e utilizada em segurança. Para o conseguir, será necessário um esforço coletivo dos governos, da indústria e da sociedade civil para informar e desenvolver testes e avaliações de segurança sólidos. Estou entusiasmado por ver o Reino Unido lançar o AI Safety Institute para acelerar o progresso neste trabalho vital."
A China não está a participar nestas iniciativas multilaterais. No entanto, este pacto conta com o apoio da UE e de países líderes como os EUA, o Reino Unido, o Japão, a França e a Alemanha e é apoiado por gigantes tecnológicos como a Google, a Amazon, a Microsoft e a Meta.
Embora o Primeiro-Ministro tenha sido questionado sobre a natureza voluntária dos acordos e a ausência de legislação vinculativa, defendeu que a IA exige uma ação rápida, sugerindo que poderão ser inevitáveis "requisitos vinculativos" para as empresas de IA.
Juntamente com o Declaração de Bletchley ParkA Cimeira tentou galvanizar a ação em torno da IA, embora os críticos a tenham considerado mais simbólica do que prática.
Antes de lançar Sunak em direto, Musk publicou no X uma caricatura de figuras que representam as potências mundiais a discutir os riscos da IA, ao mesmo tempo que esfregavam as mãos perante o potencial de domínio.
Ele é um homem controverso, mas é preciso dizer que se trata de uma piada espirituosa para uma cimeira que se baseia intrinsecamente em promessas. No entanto, seria redutor sugerir que isso significa que não se consegue nada, mas a verdadeira substância por detrás das conversações continua a ser hipotética.
Suspiro pic.twitter.com/jDDTkewbDL
- Elon Musk (@elonmusk) 2 de novembro de 2023
A concluir a cimeira, o governo britânico emitiu com orgulho a declaração de Bletchley, assinada por 28 governos, incluindo o Reino Unido, os EUA e a UE, prometendo uma abordagem colaborativa das normas de segurança da IA, evocando os acordos relativos à crise climática.
De um modo geral, os esforços diplomáticos de Rishi Sunak na cimeira da IA foram reconhecidos como um êxito, estabelecendo o Reino Unido como pioneiro na procura de segurança e regulamentação global da IA, preparando o terreno para que a França acolha a próxima cimeira em 2024.
Depois de ter insistido durante 9 anos na realização de uma cimeira internacional sobre segurança da IA, fiquei muito emocionada por poder participar na sua realização! @RishiSunak teve mais sucesso do que eu esperava, com uma unidade impressionante entre 1) os EUA e a China, 2) os que se concentram nos danos actuais versus risco existencial e 3)... https://t.co/KAQ4HCIPQo
- Max Tegmark (@tegmark) 2 de novembro de 2023
Segundo dia da Cimeira
O segundo dia da Cimeira foi encerrado com um debate entre Sunak e Musk. Eis alguns dos principais acontecimentos, desde o último dia (primeiro) até ao anterior (último).
Veja a transmissão de 50 minutos aqui.
Debate sobre IA com @RishiSunak
pic.twitter.com/f5FHGQzE4r- Elon Musk (@elonmusk) 2 de novembro de 2023
- Musk argumentou que um "interrutor" físico poderia desligar a IA em caso de problemas catastróficos. "E se um dia receberem uma atualização de software e, de repente, deixarem de ser tão amigáveis?" disse Musk a Sunak.
- Quando Sunak pergunta porque é que Musk alterou recentemente o sistema de moderação de conteúdos do Twitter, Musk argumenta que todos os moderadores de conteúdos têm preconceitos. Ele pergunta: "Como é que temos uma abordagem consensual da verdade?" e diz que o seu objetivo é chegar a uma "verdade mais pura". Musk afirma que seu novo sistema de moderação simplesmente fornece mais contexto e transparência, declarando: "Tudo é de código aberto. Podemos ver todos os dados e ver se houve algum jogo no sistema, sugerir melhorias... A verdade compensa".
- Musk prevê que, no futuro, os robots com IA possam tornar-se verdadeiros amigos dos humanos. Argumenta que terão memórias detalhadas e conhecimentos resultantes de uma leitura extensiva, afirmando: "Poderíamos falar com ele todos os dias e teríamos um grande amigo. Isso será uma coisa real.
- Musk faz a previsão arrojada de que a IA irá avançar ao ponto de "não ser necessário qualquer trabalho" para os humanos. Afirma: "Podemos ter um emprego se quisermos ter satisfação pessoal, a IA pode fazer tudo". Musk diz que isto pode ser positivo ou negativo, colocando desafios para encontrar significado e objetivo. Mas também argumenta que a IA pode proporcionar um "rendimento elevado universal" e criar os melhores tutores. No geral, ele vê muitos benefícios para a educação, produtividade e automação de trabalhos perigosos.
- Quando Sunak observa que enfrentou críticas por convidar a China, Musk elogia a decisão como "corajosa". Musk argumenta que a colaboração com a China na segurança da IA é essencial, dizendo que a sua participação é um sinal muito positivo.
- Musk diz a Sunak que acredita que os governos precisam de atuar como "árbitros" para garantir a segurança pública com a IA, ao mesmo tempo que permitem a inovação. Reitera a sua opinião de que, em geral, a IA será "uma força para o bem". Isto é contrário ao que Musk disse no passado, demonstrando as suas opiniões sinuosas sobre a IA.
- Antes da conversa, Musk mostra-se otimista em relação ao potencial da IA, mas adverte que esta pode apresentar riscos, utilizando a analogia de um "problema do génio mágico" em que os desejos correm muitas vezes mal
- Durante a sua conferência de imprensa, Sunak defendeu as medidas que os governos estão a tomar para fazer face aos riscos de segurança da IA, afirmando que estão a fazer a "coisa certa e responsável" para proteger o público, mesmo que os riscos ainda sejam incertos.
- Uma nova sondagem revela que apenas 15% das pessoas estão confiantes na capacidade do governo britânico para regular eficazmente a IA. 29% não manifestam qualquer confiança.
- Quando questionado sobre se a IA pode representar uma ameaça existencial, Sunak afirma que é plausível que possa trazer riscos à escala de uma guerra nuclear ou de uma pandemia. Por conseguinte, defende que os líderes têm o dever de tomar medidas de proteção.
- A Secretária de Estado da Ciência, Donelan, afirma que o risco de IA que mais a preocupa é o "cenário Terminator", em que as máquinas se tornam incontroláveis. Para ela, trata-se de um cenário de menor probabilidade mas de maior impacto.
Nos próximos dias será feita uma análise mais aprofundada da Cimeira. De um modo geral, a impressão que fica é a de um acontecimento simbolicamente importante e com um enorme potencial.
Mas o potencial não é facilmente convertido em legislação e, em última análise, em ação. Só o tempo o dirá.
