Os acontecimentos recentes na OpenAI puseram em evidência as ideologias do "altruísmo efetivo" e do seu ramo, o "longo prazo".
Mas wO que é que estas "filosofias" significam? E como estão a afetar a política e a governação da IA?
A OpenAI foi inicialmente fundada como uma organização sem fins lucrativos. Depois, em 2019, tornou-se uma empresa com fins lucrativos "limitada", definida como uma "parceria entre a nossa organização sem fins lucrativos original e um novo braço com fins lucrativos limitado".
Uma vez que a empresa sabia o que estava a fazer, ela não ia, afinal, manter-se afastado dos investidores e dos lucros para sempre.
Desde 2019, o papel do altruísmo efetivo, que sustentava a missão da OpenAI, desvaneceu-se.
O que é o altruísmo efetivo?
O altruísmo eficaz é uma filosofia moderna fundada há pouco tempo por académicos da Universidade de Oxford como William MacAskill e Toby Ord.
Em suma, procura maximizar os impactos positivos no planeta num sentido geral, definido como "utilizar as provas e a razão para descobrir como beneficiar os outros tanto quanto possível e tomar medidas com base nisso".
O seu subconjunto, o longo prazo, centra-se na redução dos riscos existenciais para garantir o bem-estar das gerações futuras. Nasceu das críticas aos governos cíclicos e de curto prazo. Defende que a governação atual não permite o tipo de ação sistemática e consistente de que necessitamos para sustentar o nosso planeta.
A OpenAI, fundada com o objetivo de desenvolver a IA para benefício da humanidade, partilhava estes princípios.
No entanto, a expansão comercial da empresa e o apoio ao investimento, como os $1 mil milhões da Microsoft, criaram um conflito entre estes objectivos altruístas e as necessidades práticas da empresa.
Ideologia altruísta na OpenAI
Este choque de ideologias chegou a um ponto ponto de rutura na OpenAI.
De um lado está a marca do Vale do Silício do tecnocapitalismo, defendendo ideias disruptivas com capital de risco maciço.
Por outro lado, a abordagem mais lenta e cautelosa que se tornou a posição de facto entre os patrões da tecnologia de IA. Que mais podem dizer perante a pressão nacional e internacional para moderar cuidadosamente os seus produtos?
Para que a IA progrida, tem de apaziguar aqueles que têm medo dela. Embora haja debate considerável sobre se a IA é realmente perigosa, o facto é que muitas pessoas estão preocupadas.
Esta dicotomia foi sintetizada por Altman, que, ao mesmo tempo que empurrava a OpenAI para se tornar uma potência tecnológica, também alertava para as ameaças existenciais colocadas pela IA avançada. Mais uma vez, que escolha é que ele tinha?
Para tranquilizar, Altman sublinhou que a estrutura da OpenAI protegia a empresa de seguir caminhos mais arriscados, mas a sua reintegração como diretor executivo põe fim a isso. Altman foi reintegrado à força, independentemente de se considerar isso um ato de solidariedade ou não.
"No papel, o conselho de administração tinha o poder, foi assim que Sam Altman o apresentou", diz Toby Ord, um dos fundadores do altruísmo efetivo e membro do Centro para a Governação da IA (CAIS).
E continuou: "Em vez disso, uma grande quantidade de poder parece residir pessoalmente em Altman, nos funcionários e na Microsoft".
Dinâmica e desafios do conselho de administração
A demissão de Altman pelos membros do conselho de administração, alguns dos quais ligados ao movimento do altruísmo efetivo, ameaça a capacidade da OpenAI de continuar a comercializar-se como uma nova empresa centrada em benefícios humanitários.
Os membros do Conselho de Administração alegaram que Altman não estava a ser "sincero nas suas comunicações", mas a maioria acredita que ele não estava a levar a segurança a sério.
O novo conselho de administração da OpenAI, embora esteja, para já, sujeito às mesmas regras que o anterior, não oferecerá a mesma resistência a Altman.
A resolução desta crise, com o regresso de Altman e a remodelação do conselho de administração, deixa perguntas sem resposta sobre a futura direção da empresa e os seus princípios fundadores. A OpenAI foi libertada - Altman só será afastado quando terminar.
No entanto, será difícil para a OpenAI acelerar os desenvolvimentos mais arriscados em matéria de IA devido apenas a esta remodelação da direção. Se Se a OpenAI for demasiado otimista, podem acelerar as acções contra eles. Estão a ser inspeccionados de perto pela organizações como a FTC já.
Como é que as empresas podem harmonizar as filosofias altruístas a longo prazo com as realidades do progresso tecnológico e comercial?
Os dois são compatíveis? Alguma vez foram compatíveis?
