A Meta está alegadamente a construir um modelo avançado de IA que deverá rivalizar com o desempenho do GPT-4 da OpenAI.
O Jornal de Wall Street comunicada que a Meta tem estado a trabalhar secretamente no mais avançado dos seus LLMs e que se espera que seja lançado em 2024.
No início deste ano, a Meta lançou o Llama 2, disponibilizando-o gratuitamente para utilização comercial e de investigação. Espera-se que o seu novo modelo seja também disponibilizado gratuitamente, em conformidade com a abordagem de código aberto que a Meta continua a adotar para os seus produtos de IA.
Segundo os rumores, o novo modelo da Meta é várias vezes mais potente do que Lhama 2que já se encontra no topo das tabelas de avaliação comparativa de modelos de acesso livre.
O Llama 2 foi lançado em colaboração com a Microsoft na sua plataforma Azure, mas parece que a Meta está a preparar-se para utilizar a sua própria infraestrutura de computação no futuro.
A Meta tem vindo a adquirir GPUs Nvidia H100 e utilizará a sua própria plataforma para treinar o seu novo modelo, em vez de utilizar a computação em nuvem Azure da Microsoft.
A Meta foi lenta na corrida à IA, mas agora está a investir muitos recursos nos seus projectos de IA. O relatório afirma que este novo modelo está a ser construído por uma equipa formada no início deste ano e encarregada de acelerar as ambições de IA da Meta.
Esperemos que Mark Zuckerberg dê mais pormenores sobre o novo modelo no evento Meta Connect, no final do mês.
É provável que também venhamos a saber mais sobre o projeto AI Personas da Meta. Zuckerberg prevê interacções mais empenhadas com a IA que possam "produzir expressões semelhantes às humanas", algo com que, ironicamente, parece ter dificuldades.
Se o relatório do WSJ estiver correto, então o novo modelo da Meta será muito perturbador para o panorama da IA quando for lançado no próximo ano. Um LLM gratuito e de código aberto tão potente como o GPT-4 fará uma grande mossa na O projeto da OpenAI esperança de rentabilidade.
No entanto, a estratégia da Meta de tornar os seus modelos open source deixou as suas equipas jurídicas um pouco preocupadas. Se os maus actores alterarem o modelo para remover barreiras de proteção, criar desinformação ou violar direitos de autor, não se sabe quais os riscos legais que a Meta poderá enfrentar.
Também não é claro que conjuntos de dados estão a ser utilizados para treinar o seu novo modelo, mas é quase certo que inclui as suas interacções no Facebook e no Instagram.
