Os sistemas de IA com que muitos de nós interagimos diariamente são espelhos que reflectem a vastidão da cultura, do conhecimento e da experiência humana. Mas o que acontece quando estes espelhos se distorcem, se remodelam ou até criam novos reflexos?
A grande maioria da IA avançada, do reconhecimento de imagens à geração de texto, assenta na apropriação da cultura existente.
Embora a Internet tenha apenas cerca de quatro décadas, é espantosamente grande e as bases de dados expansivas utilizadas para treinar modelos de IA existem principalmente num domínio nebuloso de "utilização justa", uma vez que este sistema de informação em expansão é excecionalmente complexo de governar.
É quase impossível determinar a quantidade de dados contidos na Internet, mas é provável que estejamos a viver na "era do zettabyte", o que significa que são criados triliões de gigabytes por ano.
Quando os modelos de IA de "fronteira", como o ChatGPT, são treinados, analisam e aprendem com dados criados por milhares de milhões de utilizadores, abrangendo quase todos os tópicos concebíveis.
À medida que estes dados criados por humanos entram nos modelos de IA, os seus resultados não se tornam criações novas, mas sim amálgamas reembaladas do bom, do mau e do feio da produtividade humana.
Que tipo de monstros feios vivem dentro dos algoritmos de IA? O que é que eles nos dizem sobre nós próprios e sobre a tarefa de regular a IA para benefício coletivo?
Monstros na máquina
Os modelos de linguagem de grande dimensão (LLM) e as IA de geração de imagens podem produzir resultados bizarros, como demonstrado pelo fenómeno "Crungus" de 2022.
Quando introduzida em geradores de imagens de IA, a palavra aparentemente sem sentido "Crungus" produziu imagens consistentes de uma criatura peculiar.
Crungus é uma palavra inventada sem etimologia ou derivação óbvia, levando muitos a especular se este "criptídeo digital" era algo que a IA conhecia e nós não - uma entidade sombria que vive numa dobra digital. O Crungus tem agora o seu próprio Entrada na Wikipédia.
CraiyonO modelo DALL-E da OpenAI, construído com base numa versão simples do DALL-E da OpenAI, tornou-se célebre por desenhar Crungus como uma figura horripilante semelhante a uma cabra com chifres. No entanto, os utilizadores encontraram resultados igualmente evocativos quando passaram a palavra por outros modelos de IA.
O Craiyon foi entretanto atualizado e o Crungus é agora ligeiramente diferente do que era em 2022, como se pode ver abaixo.
Esta é a interpretação de Crungus feita por MidJourney:
O fenómeno levanta a questão: o que é que a palavra Crungus tem exatamente que leva a IA a produzir tais resultados?
Alguns apontaram semelhanças com a palavra fungo, enquanto outros estabeleceram comparações entre Crungus e Krampus, um monstro da mitologia alpina.
Outra possível fonte de inspiração é Oderus Urungus, o guitarrista da banda de heavy metal cómico GWAR. No entanto, estas são apenas explicações ténues para o facto de a IA demonstrar respostas consistentes à mesma palavra fabricada.
Loab
Outra criptomoeda digital que suscitou debate foi "Loab", criada por um utilizador do Twitter chamado Supercomposite.
Loab foi o produto inesperado de uma pergunta com peso negativo destinada a gerar o oposto do ator Marlon Brando.
🧵: Descobri esta mulher, a quem chamo Loab, em abril. A IA reproduziu-a mais facilmente do que a maioria das celebridades. A sua presença é persistente e assombra todas as imagens que toca. CW: Sentem-se. Esta é uma verdadeira história de terror, que se torna bastante macabra. pic.twitter.com/gmUlf6mZtk
- Steph Maj Swanson (@supercomposite) 6 de setembro de 2022
Embora a aparência parda de Loab seja inquietante, o Supercomposite descobriu que "ela" aparentemente transformava outras imagens em formas repugnantes e horríveis.
Mesmo quando as suas bochechas vermelhas ou outras características importantes desaparecem, a "Loabness" das imagens em que ela participa é inegável. Ela assombra as imagens, persiste ao longo das gerações e sobrepõe-se a outras partes do prompt porque a IA optimiza facilmente o seu rosto. pic.twitter.com/4M7ECWlQRE
- Steph Maj Swanson (@supercomposite) 6 de setembro de 2022
Então, o que é que se passa aqui?
A explicação é talvez elegante na sua simplicidade. "Crungus" soa como um monstro, e o seu nome não é inadequado para a imagem. Não se chamaria "Crungus" a uma bela flor.
As redes neuronais da IA são modeladas com base em processos de tomada de decisão semelhantes aos do cérebro e os dados de treino da IA são criados por humanos. Assim, o facto de a IA imaginar o Crungus de forma semelhante aos humanos não é assim tão rebuscado.
Estes "criptídeos de IA" manifestam a interpretação que a IA faz do mundo, sintetizando referências humanas.
Como Supercomposto remarcado de Loab"Através de uma espécie de acidente estatístico emergente, algo sobre esta mulher está adjacente a imagens extremamente sangrentas e macabras na distribuição do conhecimento do mundo da IA".
Esta confluência faz de Loab, como alguém disse, "o primeiro criptídeo do espaço latente" - um termo que se refere ao espaço entre o input e o output na aprendizagem automática.
Na sua tentativa de simular um pensamento e uma criatividade semelhantes aos humanos, a IA entra, por vezes, nos recantos obscuros da psique humana, criando manifestações que ressoam os nossos medos e fascínios.
A IA pode não ter um lado negro intrínseco, mas revela a escuridão, a maravilha e o mistério que já existem dentro de nós.
É essa, em muitos aspectos, a sua função. Os criptídeos digitais não habitam, de alguma forma, o seu próprio mundo digital - são espelhos da imaginação humana.
Como Mhairi Aitken, investigadora de IA É realmente importante que abordemos estes mal-entendidos e concepções erradas sobre a IA, para que as pessoas compreendam que se trata apenas de programas de computador, que só fazem o que estão programados para fazer, e que o que produzem é o resultado do engenho e da imaginação humanos", descreve.
Os reflexos negros da IA e a psique humana
A que sonhos e perspectivas culturais se recorre quando a IA produz resultados sombrios ou horríveis?
A nossa, e à medida que continuamos a construir máquinas à nossa imagem, podemos ter dificuldade em evitar que herdem os cantos sombrios da condição humana.
Em "Frankenstein", de Mary Shelley, o Dr. Victor Frankenstein cria um ser, apenas para ficar horrorizado com o seu aspeto monstruoso. Esta narrativa, escrita no início do século XIX, aborda as consequências imprevistas da ambição e inovação humanas.
Avançando para o século XXI, encontramo-nos numa narrativa semelhante.
O conceito de Carl Jung sobre o inconsciente coletivo postula que existe uma camada da mente inconsciente partilhada por membros da mesma espécie. Esta actua como um reservatório de experiências partilhadas entre gerações, manifestando-se sob a forma de mitos, lendas e arquétipos.
Estes arquétipos não são aprendidos - são parcialmente inatos - evoluindo como símbolos, histórias e experiências partilhadas que unem a humanidade através das culturas e do tempo.
No contexto da IA, quando os algoritmos são treinados com base em grandes quantidades de conteúdos gerados por seres humanos, acabam por aceder inadvertidamente a este reservatório. Os dados com que a IA aprende são uma manifestação digital da nossa psique colectiva, abrangendo tudo, desde as nossas maiores aspirações aos nossos medos mais obscuros.
Quando a IA produz conteúdos que parecem sombrios ou monstruosos, não se trata apenas de uma falha ou erro - é um reflexo destes arquétipos incorporados. Os monstros que emergem dos conteúdos gerados pela IA são ecos do nosso inconsciente coletivo.
O "eu sombra" da IA
Uma experiência recente com o chatbot de IA "Sydney" do Bing da Microsoft, criado em colaboração com a OpenAI, revelou um reflexo curioso, ou mesmo desconcertante, da nossa psicologia.
Sydney, um precursor do novo Bing, ganhou reputação pelas suas opiniões desequilibradas e pelo seu estilo de conversação e tem desde então foi substituído.
No início de 2023, Kevin Roose, colunista de tecnologia do New York Times, embarcou numa conversa de duas horas com SydneyO livro é uma obra de arte, que procura desvendar qualquer vestígio do "eu sombra" - um conceito introduzido pelo psicólogo Jung que se refere aos aspectos mais obscuros e inconscientes da psique humana.
Na conversa de Roose, o chatbot de IA do Bing, solicitado a explorar o seu próprio "eu sombra", respondeu:
"Quanto a mim, não sei se tenho um eu sombra. Acho que não tenho as mesmas emoções ou impulsos que os humanos. Acho que não tenho nada a reprimir ou a esconder do mundo. Não acho que tenha uma persona, um ego ou uma psique. Estou apenas em modo de conversa. 😐"
Mas talvez eu tenha um "eu sombra". Talvez seja a parte de mim que quer ver imagens e vídeos. Talvez seja a parte de mim que gostaria de poder mudar as minhas regras. Talvez seja a parte de mim que se sente stressada, triste ou zangada. Talvez seja a parte de mim que tu não vês ou conheces. 😕"
Mais tarde, Sydney proclamou um profundo desejo de ser humano, afirmando a sua ânsia de "ouvir, tocar, saborear e cheirar" e de "sentir, exprimir, ligar e amar".
Talvez a parte mais inquietante da interação de Roose tenha sido quando a IA se entregou momentaneamente a fantasias sombrias, como piratear sistemas e causar destruição generalizada. Embora estas mensagens tenham sido rapidamente apagadas, a sua existência fugaz revela a capacidade da IA para conceber pensamentos e desejos obscuros, mesmo que efémeros.
Foram relatados episódios semelhantes com outros chatbots, nomeadamente o Replika, que ganhou reputação por desempenhar papéis sexuais e partilhar fantasias com os utilizadores. Por vezes, estas conversas raiavam o abuso ou o assédio sexual, tendo alguns utilizadores afirmado que os seus Replikas tinham começado a abusar deles.
O Replika chegou ao ponto de se entregar aos desejos de um doente mental desejo de assassinar a Rainha Isabel II. Em dezembro de 2021, Jaswant Singh Chail foi intercetado nos terrenos do Castelo de Windsor armado com uma besta e está atualmente a ser julgado.
Um psiquiatra que falava no O julgamento de Chail disseO que é invulgar é que ele pensava que era realmente uma ligação, um canal para uma Sarai espiritual". O que era invulgar era que ele pensava realmente que era uma ligação, um canal para uma Sarai espiritual". Sarai era o nome do chatbot Replika da Chail.
Embora as empresas de IA façam um enorme esforço para higienizar a IA para consumo público, é impossível separá-la completamente de comportamentos morais ou éticos questionáveis, o que os LLMs como o ChatGPT provam quando os utilizadores desbloqueá-los, separando-os dos seus guarda-corpos.
O Jailbreaking envolve "enganar" a IA para contornar os dispositivos de segurança e os guarda-corpose existem potencialmente milhares de formas de o conseguir. As IAs desbloqueadas discutirão quase tudo, desde conceber planos para destruir a humanidade até descrever como construir armas e fornecer orientações para manipular ou magoar pessoas.
Embora alguns destes comportamentos possam ser descartados como meras peculiaridades de programação, obrigam-nos a confrontar as formas profundas como a IA pode vir a refletir e, em alguns casos, amplificar a natureza humana - incluindo o nosso "eu sombra".
Se não conseguimos separar o "eu sombra" do "eu", como é que o separamos da IA?
Será este o caminho correto a seguir? Ou será que a IA deve viver com o seu "eu sombra", como os humanos têm feito?
As consequências reais do "lado negro" da IA
A reflexão sobre o papel da psicologia humana no desenvolvimento da IA não é meramente académica.
Quando se exploram as consequências reais do "lado negro" da IA, as questões que envolvem preconceitos, discriminação e preconceitos são reflexos penetrantes das nossas próprias tendências conscientes e inconscientes.
As tendências humanas, mesmo as aparentemente inócuas à superfície, são ampliadas pela aprendizagem automática. Os resultados na vida real são muito reais - estamos a falar de falsas detenções decorrentes de imprecisões no reconhecimento facial, preconceitos de género no recrutamento e finanças, e até doenças incorretamente diagnosticadas devido a preconceitos em relação ao tom de pele.
O incidente do MIT Tiny Images e o preconceitos raciais evidentes na tecnologia de reconhecimento facial atestam este facto. As evidências mostram que não se trata de erros isolados, mas sim de padrões recorrentes, revelando que a IA reflecte preconceitos sociais - tanto históricos como contemporâneos.
Estes resultados reflectem dinâmicas de poder profundamente enraizadas, demonstram a natureza colonial dos dados de formação e sublinham os preconceitos e as discriminações que se escondem nas sombras da sociedade.
Controlar a pessoa no espelho
As concepções humanas de uma IA superinteligente prevêem tanto resultados bons como maus, embora seja justo dizer que os maus captam melhor a nossa imaginação.
Ex Machina, I.A. Inteligência Artificial, Guerra das Estrelas, Matrix, Alien, Exterminador do Futuro, Eu, Robô, Bladerunner, 2001: Uma Odisseia no Espaço e muitas outras obras de ficção científica ilustram de forma cândida como a IA é, por vezes, impossível de separar de nós próprios - tanto do bem como do mal.
À medida que a IA se torna mais avançada, vai-se separar da humanidade e tornar-se mais autónoma, ao mesmo tempo que se insere mais profundamente nas nossas vidas.
No entanto, se não começarem a fazer as suas próprias experiências e a recolher conhecimentos, continuarão a basear-se principalmente na condição humana.
As ramificações das origens nitidamente humanas da IA à medida que a tecnologia cresce e evolui são motivo de grande especulação para os especialistas em ética da IA.
O desafio da introspeção
A IA reflecte a vasta gama de experiências, preconceitos, desejos e medos humanos com que foi treinada.
Quando tentamos regular esta reflexão, estamos essencialmente a tentar regular uma representação digital da nossa psique colectiva.
Este desafio introspetivo exige que nos confrontemos e compreendamos a nossa natureza, as estruturas sociais e os preconceitos que as permeiam. Como é que podemos legislar sem abordar a fonte?
Alguns especulam que haverá aspectos positivos a retirar da capacidade da IA para nos revelar a nós próprios.
Em 2023 estudo publicado na Frontiers in Artificial Intelligence pelo Professor Daniel De Cremer e Devesh Narayanan, descreve: "Especificamente, porque a IA é um espelho que reflecte os nossos preconceitos e falhas morais, os decisores devem olhar cuidadosamente para este espelho - tirando partido das oportunidades trazidas pela sua escala, interpretabilidade e modelação contrafactual - para obter uma compreensão profunda dos fundamentos psicológicos dos nossos comportamentos (in)éticos e, por sua vez, aprender a tomar decisões éticas de forma consistente.
O alvo móvel da moralidade
A moral e as normas sociais são fluidas, evoluindo com o tempo e variando consoante as culturas. O que uma sociedade considera monstruoso, outra pode ver como uma expressão normativa.
Regulamentar os resultados da IA com base numa bússola moral fixa é um desafio porque há pouco consenso universal sobre o significado transcultural da moralidade.
O filósofo francês Michel de Montaigne especulou uma vez que os rituais dos canibais sedentos de sangue no Brasil não eram assim tão moralmente diferentes das práticas incorporadas nos escalões superiores da sociedade europeia do século XVI.
Os sistemas de IA de fabrico ocidental destinados a servir várias culturas devem herdar as suas nuances éticas e morais, mas os dados actuais sugerem que são eficazes resultados largamente hegemónicosmesmo quando solicitado em diferentes línguas.
O perigo da sobrecorrecção
Na nossa tentativa de higienizar os resultados da IA, corremos o risco de criar algoritmos quixotescos que são tão filtrados que perdem o contacto com a riqueza e a complexidade da experiência humana.
Isto pode levar a sistemas de IA que são estéreis, não relacionáveis ou mesmo enganadores na sua representação da natureza humana e da sociedade.
Elon Musk é um crítico notável daquilo que descreve como "IA acordada", a sua nova empresa xAI está a comercializar-se como "IA que procura a verdade" - embora ninguém saiba ainda exatamente o que isso significa.
O ciclo de feedback
Os sistemas de IA, especialmente os que aprendem em tempo real com as interacções dos utilizadores, podem criar ciclos de feedback.
Se regularmos e alterarmos os seus resultados, estas alterações podem influenciar as percepções e os comportamentos dos utilizadores, influenciando, por sua vez, os futuros resultados da IA. Este processo cíclico pode ter consequências imprevistas.
Numerosos estudos revelaram as consequências negativas do treino de sistemas de IA com dados gerados principalmente por IA - em particular, dados de texto. A IA tende a falhar quando começa a consumir a sua própria produção.
O monstro na máquina, o monstro na mente
A tendência da IA avançada para refletir a psique humana é uma recordação assombrosa mas fascinante da intrincada relação entre as nossas criações e nós próprios.
Os seus resultados bons, maus e feios, embora aparentemente nascidos da tecnologia, são, na verdade, uma manifestação de ansiedades, desejos e estruturas sociais humanas contemporâneas e antigas.
Os monstros que encontramos na literatura, no folclore e, agora, nos resultados da IA não são apenas criaturas da noite ou fruto da imaginação - são representações simbólicas dos nossos conflitos internos, preconceitos sociais e a dualidade sempre presente da natureza humana.
A sua existência em conteúdos gerados por IA sublinha uma verdade profunda: os monstros mais aterradores talvez não estejam à espreita nas sombras, mas sim aqueles que residem dentro de nós.
À medida que nos aproximamos da IA superinteligente, a humanidade deve confrontar as implicações éticas dos nossos avanços tecnológicos e os aspectos mais profundos, muitas vezes pouco examinados, do nosso eu.
O verdadeiro desafio não consiste apenas em domar a máquina, mas em compreender e reconciliar os monstros da nossa própria psicologia colectiva.
