A decisão de despedir Sam Altam pode ter sido influenciada pelos ideais altruístas efectivos partilhados pelos membros da direção da OpenAI. O diretor executivo interino, Emmett Shear, partilha alguns dos seus receios em relação à IA.
Em termos gerais, o conceito de Altruísmo Eficaz (AE) consiste em enfrentar os problemas mais prementes do mundo e tomar medidas lógicas para maximizar os resultados positivos para a humanidade.
Quando aplicada ao espaço da IA, muitos dos proponentes da EA estão a fazer soar o alarme sobre o ritmo alucinante do desenvolvimento e os potenciais riscos existenciais para a humanidade.
Do outro lado do espetro estão os Aceleracionistas Eficazes (e/acc) que dizem que a IA não nos vai matar a todos e que devemos andar mais depressa.
Pelo menos metade dos actuais membros da direção da OpenAI parecem estar do lado da EA e os seus receios em relação à IA podem ter estado na origem desenvolvimentos recentes na empresa.
Helen Toner foi directora do Effective Altruism Melbourne e Tasha McCauley faz parte da direção da Effective Ventures, que gere o Centre For Effective Altruism.
Entrar Emmett Shear
Num podcast recente, Emmett Shear, o terceiro diretor executivo da OpenAI em quase tantos dias, manifestou o seu apoio às opiniões dos profetas da desgraça da IA da EA.
Emmett Shear, o novo diretor executivo da OpenAI, num podcast recente.pic.twitter.com/6LGEOinn7r
- Rowan Cheung (@rowancheung) 20 de novembro de 2023
Shear é também um fã do investigador de IA Eliezer Yudkowsky, que escreveu um romance de ficção de Harry Potter que defende o pensamento racional e científico. Harry Potter e os Métodos de Racionalidade (HPMOR) é popular entre a comunidade da EA e é utilizado nos seus esforços de recrutamento.
No capítulo 104 do romance de 660.000 palavras, Yudowsky escreve sobre um Seeker chamado Emmett Shear que cai de uma vassoura num jogo de Quidditch.
Se Shear partilha as opiniões mais extremas de Yudowsky relativamente à segurança da IA, então podemos esperar mais travagens na OpenAI.
No início deste ano, líderes tecnológicos como Elon Musk e Emad Mostaque juntaram-se a milhares de pessoas que assinaram uma carta aberta apelando a uma pausa de 6 meses no desenvolvimento da IA. Yudowsky recusou-se a assinar a carta dizendo que estava a "subestimar a gravidade da situação e a pedir muito pouco para a resolver".
Numa carta publicado na Time Yudowsky disse que o desenvolvimento da IA deve parar completamente ou então "literalmente toda a gente na Terra morrerá".
Na sua carta, Yudowsky não foi ambíguo quanto à sua opinião: "Se alguém construir uma IA demasiado poderosa, nas condições actuais, espero que todos os membros da espécie humana e toda a vida biológica na Terra morram pouco tempo depois".
Sabemos que Shear concorda com alguns destes sentimentos. No clip acima, Shear diz: "Sei que Eliezer pensa que estamos todos condenados de certeza. Eu acredito no seu argumento da condenação. Eu compro a corrente e a lógica".
A EA vai salvar-nos e condenar a OpenAI?
Provavelmente, a maioria das pessoas ouviu falar pela primeira vez de altruísmo efetivo quando o fundador da FTX, Sam Bankman Fried, entrou em cena. Ele afirmou que os princípios da EA estavam por detrás do seu desejo de ganhar muito dinheiro para fazer muito bem.
O seu exemplo mostra que as pessoas que têm um forte desejo de fazer uma diferença positiva não estão imunes a tomar decisões muito estúpidas.
Se o conselho de administração da OpenAI continuar a dar prioridade aos princípios da EA, é difícil perceber como é que Sam Altman poderá prosseguir a AGI e a rentabilidade se e quando for reconduzido no cargo.
Se a direção moderar os seus pontos de vista e ouvir os defensores do e/acc, como o cientista informático Yann LeCuna OpenAI pode ainda ser um projeto viável.
Mark Zuckerberg encorajou os seus engenheiros a "moverem-se rapidamente e partirem coisas". Altman pode partilhar essa opinião sobre o desenvolvimento da IA, mas os actuais líderes da OpenAI claramente não o fazem.
