A IA de fonte aberta, em particular os modelos Llama da Meta, suscitou um debate sobre os riscos de disponibilizar modelos de IA poderosos a toda a gente.
Na semana passada, um grupo de manifestantes reuniu-se à porta dos escritórios da Meta em São Francisco, condenando a decisão da empresa de divulgar publicamente os seus modelos de IA.
Um cartaz dizia: "Não abra o código do dia do juízo final".
O protesto foi publicado no Fórum do Altruísmo Eficaz e declarou o seguinte: "Os modelos de IA de vanguarda da Meta são fundamentalmente inseguros... Antes de lançar modelos ainda mais avançados - que terão capacidades mais perigosas - apelamos à Meta para que leve a sério o lançamento responsável e pare a proliferação irreversível".
Os manifestantes também criaram um sítio Web aqui, que cita Zuckerberg minimiza a segurança implicações das versões de modelos de fonte aberta.
Em suma, empresas de renome como a OpenAI e a Google restringem os seus modelos de linguagem de grande dimensão (LLM) ao acesso à API. São "caixas negras" fechadas, o que significa que o público não pode ver o que acontece no interior do modelo - apenas as entradas e saídas.
Em contrapartida, a Meta fez manchetes ao oferecer os seus modelos LLaMA abertamente à comunidade de investigação em IA. Isto permite que indivíduos com experiência em tecnologia adaptem e afinem os modelos para libertarem todo o seu potencial, ao contrário das IAs fechadas que são programadas com protecções de segurança.
A abordagem da Meta ao desenvolvimento da IA
A Meta tem desempenhado um papel ligeiramente antagónico no desenvolvimento da IA.
Enquanto a Google, a OpenAI, a Microsoft e empresas em fase de arranque como a Anthropic e a Inflection se apressam a construir IAs fechadas e guardadas a sete chaves, a Meta optou por lançar os seus modelos de código aberto na esfera pública como uma granada viva.
IA de fonte aberta certamente ameaça as estruturas de mercado Microsoft, OpenAI, etc., dependem para rentabilizar os seus produtos.
O modelo Llama da Meta era famoso fuga de informação no 4Chan antes do seu lançamento oficial, e não demorou muito até a empresa dar um passo em frente ao lançar o Llama 2.
Os manifestantes argumentam que as iniciativas de código aberto da Meta simbolizam uma "proliferação irreversível" de tecnologia possivelmente perigosa. No entanto, outros discordam firmemente, argumentando que a IA de fonte aberta é vital para democratizar a tecnologia e ganhar confiança através da transparência.
Holly Elmore, que liderou o protesto de sexta-feira à porta do Meta, sublinhou que, a partir do momento em que os pesos dos modelos que influenciam as entradas e saídas dos modelos são do domínio público, os criadores perdem o controlo. Os modelos de código aberto podem ser modificados e reestruturados com consequências pouco éticas ou ilegais.
Elmore, anteriormente associado ao grupo de reflexão Rethink Priorities, declarou: "A libertação de pesos é uma política perigosa... Quanto mais poderosos forem os modelos, mais perigosa se tornará esta política".
A IA de fonte aberta continuará a ser um tema controverso, mas deixar a tecnologia sob o controlo de um grupo restrito de pessoas não é, possivelmente, uma alternativa favorável.
