Estudo do governo britânico revela que as salvaguardas dos LLM são facilmente contornadas
Uma investigação conduzida pelo AI Safety Institute (AISI) do Reino Unido revelou que os chatbots de IA podem ser facilmente coagidos a produzir...
Apenas 2% da investigação em IA está a analisar a segurança, segundo um estudo da Universidade de Georgetown
Ouvimos falar muito sobre a segurança da IA, mas será que isso significa que ela é muito utilizada na investigação? Um novo estudo da...
WMDP mede e reduz a utilização maliciosa de LLM com desaprendizagem
Os investigadores lançaram um parâmetro de referência para avaliar se um LLM contém conhecimentos potencialmente perigosos e uma nova técnica para desaprender...
A batalha dos "padrinhos da IA" - a IA é arriscada ou não?!
A IA é arriscada, certo? Foi o que nos disseram no ano passado. Mas nem toda a gente concorda, incluindo alguns dos principais...
Resumo do segundo dia da Cimeira de Segurança da IA do Reino Unido
No segundo dia da Cimeira de Segurança da IA, o Primeiro-Ministro do Reino Unido, Rishi Sunak, tentou mostrar que os criadores de IA...
Resumo do primeiro dia da Cimeira de Segurança da IA do Reino Unido
A Cimeira de Segurança da IA do Reino Unido arrancou hoje, com políticos, patrões da tecnologia, investigadores e membros de grupos de defesa civil a descerem...
Bletchley Park vai acolher a Cimeira Global de Segurança da IA do Reino Unido em novembro
O Reino Unido anunciou as datas de uma cimeira de alto nível centrada na segurança da IA, que terá lugar em novembro...