A OpenAI revelou recentemente que o seu conselho de administra\u00e7\u00e3o tem autoridade para anular as decis\u00f5es tomadas pelo diretor executivo relativamente ao lan\u00e7amento de novos modelos de IA, mesmo que estes tenham sido considerados seguros pela dire\u00e7\u00e3o da empresa.\u00a0<\/b><\/p>\n
Esta informa\u00e7\u00e3o foi detalhada num conjunto de directrizes reveladas na segunda-feira, delineando a estrat\u00e9gia da empresa para lidar com potenciais riscos extremos colocados pelos seus sistemas de IA mais avan\u00e7ados.\u00a0<\/span><\/p>\n Embora a equipa de lideran\u00e7a possa decidir inicialmente sobre o lan\u00e7amento de um novo sistema de IA, o conselho de administra\u00e7\u00e3o mant\u00e9m o direito de reverter essas decis\u00f5es.<\/span><\/p>\n Sam Altman, diretor executivo da OpenAI, foi demitido do seu cargo e reintegrado de forma dram\u00e1tica, pondo em evid\u00eancia uma curiosa din\u00e2mica de poder entre os directores e os executivos da empresa.\u00a0<\/span><\/p>\n No rescaldo, muitos especularam que Altman n\u00e3o tinha estado a prestar a devida aten\u00e7\u00e3o \u00e0 seguran\u00e7a dos modelos, que tinha sido \"arrastado pelo seu trabalho\", por assim dizer. Relat\u00f3rios posteriores lan\u00e7aram d\u00favidas sobre isso, incluindo o presidente da Microsoft, Brad Smith, <\/span>que disse achar improv\u00e1vel<\/span><\/a> que a seguran\u00e7a era o principal motivo.\u00a0<\/span><\/p>\n Havia tamb\u00e9m o facto de a OpenAI ter sido avaliada em grande escala e de os seus funcion\u00e1rios quererem ganhar dinheiro com as suas op\u00e7\u00f5es de compra de ac\u00e7\u00f5es.\u00a0<\/span><\/p>\n O Business Insider alegou<\/span><\/a> que os funcion\u00e1rios da OpenAI utilizaram a sua carta aberta, afirmando que deixariam a empresa se Altman n\u00e3o fosse readmitido, como moeda de troca. Um funcion\u00e1rio chegou a dizer que ele era um mau CEO, embora esses relatos n\u00e3o tenham sido confirmados.\u00a0<\/span><\/p>\n A OpenAI agiu agora para dissipar os receios de que n\u00e3o est\u00e1 a levar a IA em seguran\u00e7a, come\u00e7ando por publicar os resultados da sua nova \"<\/span>experi\u00eancia de \"superalinhamento<\/span><\/a>\u00a0e tamb\u00e9m aumentando os \"poderes\" da sua equipa de \"prepara\u00e7\u00e3o\".\u00a0<\/span><\/p>\n O projeto da OpenAI <\/span>equipa de prepara\u00e7\u00e3o<\/span><\/a>liderada por Aleksander Madry, atualmente em licen\u00e7a do MIT, avalia continuamente os sistemas de IA em v\u00e1rias categorias de risco, incluindo a ciberseguran\u00e7a e as amea\u00e7as relacionadas com os dom\u00ednios qu\u00edmico, nuclear e biol\u00f3gico.\u00a0<\/span><\/p>\n Esta equipa tem por objetivo identificar e atenuar quaisquer perigos significativos associados \u00e0 tecnologia. De acordo com as orienta\u00e7\u00f5es, os riscos classificados como \"catastr\u00f3ficos\" podem provocar preju\u00edzos econ\u00f3micos substanciais ou danos graves a muitas pessoas.<\/span><\/p>\n Madry explicou o processo, afirmando: \"A IA n\u00e3o \u00e9 algo que nos acontece e que pode ser bom ou mau. \u00c9 algo que estamos a moldar\". Madry manifestou ainda a esperan\u00e7a de que outras empresas adoptem as directrizes da OpenAI para a avalia\u00e7\u00e3o de riscos.\u00a0<\/span><\/p>\n A sua equipa, formada em outubro como parte de tr\u00eas grupos separados que supervisionam a seguran\u00e7a da IA na OpenAI, ir\u00e1 avaliar os modelos de IA n\u00e3o lan\u00e7ados e classificar os riscos percebidos como \"baixos\", \"m\u00e9dios\", \"altos\" ou \"cr\u00edticos\". Apenas os modelos classificados como \"m\u00e9dio\" ou \"baixo\" ser\u00e3o considerados para lan\u00e7amento.<\/span><\/p>\n Estamos a sistematizar o nosso pensamento de seguran\u00e7a com o nosso Quadro de Prepara\u00e7\u00e3o, um documento vivo (atualmente em vers\u00e3o beta) que detalha os investimentos t\u00e9cnicos e operacionais que estamos a adotar para orientar a seguran\u00e7a do desenvolvimento do nosso modelo de fronteira.https:\/\/t.co\/vWvvmR9tpP<\/a><\/p>\n - OpenAI (@OpenAI) 18 de dezembro de 2023<\/a><\/p><\/blockquote>\n\n