Eis alguns excertos:<\/span><\/p>\n \"Na OpenAI, olh\u00e1mos muito por cima dos nossos ombros. Quem \u00e9 que vai ultrapassar o pr\u00f3ximo marco? Qual ser\u00e1 o pr\u00f3ximo passo?<\/span><\/p>\n Mas a verdade inc\u00f3moda \u00e9 que n\u00e3o estamos posicionados para ganhar esta corrida ao armamento e a OpenAI tamb\u00e9m n\u00e3o. Enquanto andamos a discutir, uma terceira fa\u00e7\u00e3o tem andado discretamente a comer-nos o almo\u00e7o. Estou a falar, claro, do c\u00f3digo aberto.<\/span><\/p>\n Em termos simples, est\u00e3o a ultrapassar-nos. Coisas que consider\u00e1vamos \"grandes problemas em aberto\" est\u00e3o hoje resolvidas e nas m\u00e3os das pessoas. Embora os nossos modelos continuem a ter uma ligeira vantagem em termos de qualidade, a diferen\u00e7a est\u00e1 a diminuir de forma espantosamente r\u00e1pida.<\/span><\/p>\n Os modelos de c\u00f3digo aberto s\u00e3o mais r\u00e1pidos, mais personaliz\u00e1veis, mais privados e mais capazes. Est\u00e3o a fazer coisas com params $100 e 13B que n\u00f3s temos dificuldade em fazer com $10M e 540B. E est\u00e3o a faz\u00ea-lo em semanas, n\u00e3o em meses.<\/span><\/p>\n No in\u00edcio de mar\u00e7o, a comunidade de c\u00f3digo aberto p\u00f4s as m\u00e3os no seu primeiro modelo de funda\u00e7\u00e3o realmente capaz, quando o LLaMA da Meta foi divulgado ao p\u00fablico.<\/span><\/p>\n N\u00e3o tinha qualquer instru\u00e7\u00e3o ou sintoniza\u00e7\u00e3o de conversa\u00e7\u00e3o, nem RLHF. No entanto, a comunidade compreendeu imediatamente o significado do que lhes tinha sido dado. Seguiu-se um tremendo surto de inova\u00e7\u00e3o, com apenas alguns dias de intervalo entre os principais desenvolvimentos...<\/span><\/p>\n Aqui estamos n\u00f3s, apenas um m\u00eas depois, e h\u00e1 variantes com afina\u00e7\u00e3o de instru\u00e7\u00f5es, quantiza\u00e7\u00e3o, melhorias de qualidade, avalia\u00e7\u00f5es humanas, multimodalidade, RLHF, etc., etc., muitas das quais se baseiam umas nas outras. O mais importante \u00e9 o facto de terem resolvido o problema do escalonamento ao ponto de qualquer pessoa poder mexer nele.<\/span><\/p>\n Muitas das novas ideias prov\u00eam de pessoas comuns. A barreira \u00e0 entrada para a forma\u00e7\u00e3o e a experimenta\u00e7\u00e3o desceu da produ\u00e7\u00e3o total de uma grande organiza\u00e7\u00e3o de investiga\u00e7\u00e3o para uma pessoa, uma noite e um port\u00e1til robusto\".<\/span><\/p>\n O memorando de Sernau foi divulgado pelas principais ag\u00eancias noticiosas e suscitou um debate sobre a quest\u00e3o de saber se a press\u00e3o das grandes empresas tecnol\u00f3gicas no sentido da regulamenta\u00e7\u00e3o esconde um motivo para for\u00e7ar a IA de fonte aberta a sair do jogo. <\/span>Ben Schrekcinger, do Politico, escreve<\/span><\/a>O c\u00f3digo-fonte aberto \u00e9 tamb\u00e9m mais dif\u00edcil de proibir, uma vez que podem surgir novas inst\u00e2ncias se os reguladores tentarem encerrar um s\u00edtio Web ou uma ferramenta que o utilize. Combinados com outras caracter\u00edsticas descentralizadoras, estes projectos de c\u00f3digo aberto t\u00eam o potencial de perturbar n\u00e3o s\u00f3 o modelo de neg\u00f3cio de Silicon Valley, mas tamb\u00e9m os modelos de governa\u00e7\u00e3o de Washington e Bruxelas\".<\/span><\/p>\n A comunidade de IA de c\u00f3digo aberto j\u00e1 est\u00e1 a prosperar. Os programadores est\u00e3o a resolver desafios em dias que levam meses ou anos \u00e0 Google e \u00e0 OpenAI. Sernau argumenta que as comunidades \u00e1geis de programadores de c\u00f3digo aberto est\u00e3o mais bem equipadas para construir modelos de itera\u00e7\u00e3o do que as grandes empresas de tecnologia, uma vez que s\u00e3o mais diversificadas, eficientes e pragm\u00e1ticas.<\/p>\n Se for esse o caso, o dom\u00ednio das grandes tecnologias sobre a IA poder\u00e1 ser ef\u00e9mero.<\/p>\n O modelo LLaMA da Meta, um modelo de linguagem grande (LLM) como o ChatGPT, foi fuga de informa\u00e7\u00e3o no 4chan<\/a> uma semana depois de a empresa ter enviado os pedidos de acesso. <\/span>Em 3 de mar\u00e7o, uma torrente descarreg\u00e1vel apareceu no f\u00f3rum de mensagens e espalhou-se como um inc\u00eandio.<\/span><\/p>\n Como Sernau indica, a comunidade de c\u00f3digo aberto procedeu \u00e0 modifica\u00e7\u00e3o do LLaMA, acrescentando funcionalidades impressionantes sem recursos inform\u00e1ticos empresariais.\u00a0<\/span><\/p>\n A constru\u00e7\u00e3o de modelos de IA poderosos \u00e9 mais barata do que nunca e as comunidades de c\u00f3digo aberto est\u00e3o a fazer press\u00e3o para democratizar o acesso. Enquanto o LLaMA \u00e9 um modelo em grande parte pr\u00e9-treinado, outros modelos de c\u00f3digo aberto, como o BLOOM, foram treinados por volunt\u00e1rios. <\/span><\/p>\n O treino do BLOOM exigiu um supercomputador equipado com 384 GPUs NVIDIA A100 de 80 GB que, felizmente, foi doado pelo governo franc\u00eas. A empresa de IA de c\u00f3digo aberto Together anunciou recentemente um financiamento inicial de $20m, e fornecedores de nuvem focados em IA como CoreWeave<\/a> oferecer hardware a pre\u00e7os inferiores aos do mercado. <\/span><\/p>\n Os projectos de c\u00f3digo aberto t\u00eam v\u00e1rios meios para concentrar recursos e ultrapassar as grandes empresas tecnol\u00f3gicas.\u00a0<\/span>As grandes empresas tecnol\u00f3gicas gostariam que pens\u00e1ssemos que as suas IA s\u00e3o o produto de d\u00e9cadas de trabalho e de milhares de milh\u00f5es de d\u00f3lares de investimento -<\/span> a comunidade de c\u00f3digo aberto provavelmente discorda.<\/p>\n Sobre o tema da segrega\u00e7\u00e3o entre as grandes tecnologias e os projectos de IA mais pequenos, num evento na \u00cdndia, o antigo executivo da Google, Rajan Anandan, perguntou ao CEO da OpenAI, Sam Altman, se os engenheiros indianos poderiam construir modelos de IA fundamentais com um investimento de $10m.<\/span><\/p>\n Altman respondeu: \"\u00c9 totalmente in\u00fatil competir connosco na forma\u00e7\u00e3o de modelos de base. N\u00e3o devem tentar, e o vosso trabalho \u00e9 gostar de tentar de qualquer forma. E eu acredito em ambas as coisas. Acho que \u00e9 bastante in\u00fatil\".<\/span><\/p>\n Mas, no seu memorando, Sernau afirma que o c\u00f3digo aberto j\u00e1 est\u00e1 a competir com a grande tecnologia. Diz ele: \"Manter uma vantagem competitiva na tecnologia torna-se ainda mais dif\u00edcil agora que a investiga\u00e7\u00e3o de ponta em LLMs \u00e9 acess\u00edvel. Os institutos de investiga\u00e7\u00e3o de todo o mundo est\u00e3o a desenvolver o trabalho uns dos outros, explorando o espa\u00e7o de solu\u00e7\u00f5es de uma forma abrangente que ultrapassa em muito a nossa pr\u00f3pria capacidade\".<\/span><\/p>\n Os programadores de c\u00f3digo aberto est\u00e3o a criar alternativas \u00e0s IA das grandes tecnologias e a ultrapass\u00e1-las em termos de desempenho e estat\u00edsticas de utilizadores. <\/span><\/p>\n Por exemplo, o Stable Diffusion de c\u00f3digo aberto tornou-se mais popular do que o DALL-E da OpenAI poucos meses ap\u00f3s o seu lan\u00e7amento.\u00a0<\/span><\/p>\n At\u00e9 que ponto \u00e9 que podemos separar potenciais segundas inten\u00e7\u00f5es? Ser\u00e1 que a press\u00e3o regulamentar das grandes tecnologias tem algum m\u00e9rito altru\u00edsta?<\/span><\/p>\n Para al\u00e9m do LLaMA, existem pelo menos tr\u00eas grandes exemplos de projectos de IA de fonte aberta:<\/span> \u00c9 importante notar que, embora alguns destes programadores (por exemplo, Stable Diffusion) ofere\u00e7am os seus modelos atrav\u00e9s de pain\u00e9is de controlo intuitivos e f\u00e1ceis de utilizar, outros, como o BLOOM, requerem recursos significativos para serem executados. Para come\u00e7ar, s\u00e3o necess\u00e1rios cerca de 360 GB de RAM para executar o BLOOM, mas existem muitos truques interessantes para reduzir os requisitos de recursos.\u00a0<\/span><\/p>\n \u00c0 medida que o pre\u00e7o do hardware com capacidade de IA diminui e os modelos de c\u00f3digo aberto se tornam mais simples de implementar, \u00e9 bem poss\u00edvel que praticamente qualquer pessoa possa implementar modelos semelhantes ao ChatGPT. A fuga de informa\u00e7\u00e3o do memorando da Google cita exemplos de pessoas que ajustaram e implementaram o LLaMA em dispositivos de consumo, incluindo um MacBook.\u00a0<\/span><\/p>\n Para empresas com recursos inform\u00e1ticos significativos, <\/span>os modelos de fonte aberta poupam dinheiro e proporcionam soberania de dados e controlo sobre a forma\u00e7\u00e3o e a otimiza\u00e7\u00e3o.\u00a0<\/span><\/p>\n No entanto, nem todos est\u00e3o optimistas quanto ao impacto da poderosa IA de c\u00f3digo aberto. Por exemplo, o investigador de ciberseguran\u00e7a Jeffrey Ladis tweetou: \"Preparem-se para montes de spam personalizado e tentativas de phishing\" e \"Abrir o c\u00f3digo destes modelos foi uma p\u00e9ssima ideia\".<\/span><\/p>\n A prolifera\u00e7\u00e3o da IA torna-nos a todos menos seguros. Parece-me uma boa coisa a evitar, mas tamb\u00e9m um desafio bastante dif\u00edcil!<\/p>\n N\u00e3o ficaria surpreendido se um ator estatal conseguisse obter os modelos de fronteira da OpenAI no pr\u00f3ximo ano ou dois https:\/\/t.co\/PUEWvfUFqk<\/a><\/p>\n - Jeffrey Ladish (@JeffLadish) 10 de maio de 2023<\/a><\/p><\/blockquote>\n Outro observador tweetou: \"O c\u00f3digo aberto \u00e9 uma amea\u00e7a, mas n\u00e3o da forma que pensas. \u00c9 uma amea\u00e7a porque a IA nas m\u00e3os de pessoas que a podem utilizar para os seus pr\u00f3prios fins torna-se ainda mais dif\u00edcil de regular ou controlar, e isso \u00e9 um problema maior\".\u00a0<\/span><\/p>\n A Google e a OpenAI afirmam que t\u00eam medo da IA de fonte aberta, que \"n\u00e3o h\u00e1 fosso\" entre elas. Mas isso n\u00e3o \u00e9 bem verdade.<\/p>\n O c\u00f3digo aberto \u00e9 uma amea\u00e7a, mas n\u00e3o da forma que se pensa. \u00c9 uma amea\u00e7a porque a IA nas m\u00e3os de pessoas que a podem utilizar para os seus pr\u00f3prios fins torna-se ainda mais dif\u00edcil de... pic.twitter.com\/g6kMh3TshY<\/a><\/p>\n - Theo (@tprstly) 5 de maio de 2023<\/a><\/p><\/blockquote>\n Yann LeCun, frequentemente considerado um \"padrinho da IA\", juntamente com Geoffrey Hinton e Yoshio Bengman, <\/span>argumenta o contr\u00e1rio<\/span><\/a>\"Quando os LLM se tornarem o principal canal atrav\u00e9s do qual toda a gente acede \u00e0 informa\u00e7\u00e3o, as pessoas (e os governos) ir\u00e3o *exigir* que esta seja aberta e transparente. A infraestrutura b\u00e1sica deve ser aberta\".\u00a0<\/span><\/p>\n LeCun tamb\u00e9m discordou das narrativas tradicionais sobre os riscos da IA: \"Penso que a magnitude do problema do alinhamento da IA foi ridiculamente exagerada e a nossa capacidade de o resolver foi amplamente subestimada\". Elon Musk ripostou no Twitter, dizendo: \"Achas mesmo que a IA \u00e9 uma espada de um s\u00f3 gume?\"\u00a0<\/span><\/p>\n Achas mesmo que a IA \u00e9 uma espada de um s\u00f3 gume?<\/p>\n - Elon Musk (@elonmusk) 1 de abril de 2023<\/a><\/p><\/blockquote>\n Outros comentadores tra\u00e7aram paralelos entre a regulamenta\u00e7\u00e3o da IA e a criptografia, em que o governo dos EUA tentou proibir m\u00e9todos criptogr\u00e1ficos p\u00fablicos atrav\u00e9s de <\/span>classificando-as como \"muni\u00e7\u00f5es\"<\/span><\/a> - <\/b>apelidada de \"Crypto Wars\".\u00a0<\/span><\/p>\n Agora, praticamente toda a gente tem o direito de utilizar a encripta\u00e7\u00e3o - mas essa batalha foi ganha com dificuldade - como poder\u00e1 ser o caso da IA de c\u00f3digo aberto.<\/span><\/p>\n O c\u00f3digo aberto \u00e9 mais do que apenas software, c\u00f3digo e tecnologia. \u00c9 o princ\u00edpio, a mentalidade ou a cren\u00e7a de que um ambiente de trabalho cooperativo, aberto e transparente supera a concorr\u00eancia num mercado fechado.<\/span><\/p>\n A OpenAI, outrora uma empresa sem fins lucrativos centrada na coopera\u00e7\u00e3o p\u00fablica e no desenvolvimento de c\u00f3digo aberto, tem vindo a afastar-se progressivamente do seu nome.<\/span><\/p>\n A startup passou a ser uma empresa \"com fins lucrativos\" em 2019, terminando efetivamente a rela\u00e7\u00e3o da empresa com a comunidade de c\u00f3digo aberto.\u00a0<\/span>O investimento da Microsoft desvinculou a OpenAI de qualquer tipo de actividades de I&D \"abertas\". <\/span><\/p>\n Em meados de maio, a empresa anunciou um <\/span>modelo de c\u00f3digo aberto em prepara\u00e7\u00e3o<\/span><\/a>mas n\u00e3o foram directos quanto aos pormenores.\u00a0<\/span><\/p>\n Agora, a OpenAI est\u00e1 a pressionar para que a regulamenta\u00e7\u00e3o atinja mais duramente as empresas de IA emergentes, para n\u00e3o falar da potencial criminaliza\u00e7\u00e3o da comunidade de c\u00f3digo aberto.\u00a0<\/span><\/p>\n Este facto levou alguns a criticar a press\u00e3o da OpenAI para a regulamenta\u00e7\u00e3o como sendo apenas um neg\u00f3cio - o neg\u00f3cio de proteger os seus modelos lucrativos das comunidades de c\u00f3digo aberto que procuram democratizar a IA.\u00a0<\/span><\/p>\n A combina\u00e7\u00e3o do memorando divulgado pela Google, a press\u00e3o das grandes empresas tecnol\u00f3gicas no sentido da regulamenta\u00e7\u00e3o e o desprezo de Altman pelos projectos de IA de base levantam algumas sobrancelhas. De facto, a legitimidade dos riscos da IA - que justificam a regulamenta\u00e7\u00e3o - tem sido questionada.\u00a0\u00a0<\/span><\/p>\n Por exemplo, quando o Centro para a Seguran\u00e7a da IA (CAIS) publicou a sua declara\u00e7\u00e3o s\u00edsmica sobre o risco da IA, co-assinada por v\u00e1rios CEOs da IA, alguns observadores externos n\u00e3o ficaram convencidos.<\/span><\/p>\n Numa sele\u00e7\u00e3o de reac\u00e7\u00f5es de peritos \u00e0 declara\u00e7\u00e3o <\/span>publicado pelo Science Media Centre<\/span><\/a>A Dra. Mhairi Aitken, Ethics Research Fellow no Alan Turing Institute, afirmou:<\/span><\/p>\nA fuga do Meta LLaMA<\/span><\/h2>\n
![\"\"](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/shutterstock_2297594185.jpg\")
![\"Difus\u00e3o](\"https:\/\/dailyai.com\/wp-content\/uploads\/2023\/06\/stable-1024x576.png\")
A comunidade de IA de fonte aberta<\/span><\/h2>\n
\n<\/span><\/p>\n\n
\n
\n
\n
A aliena\u00e7\u00e3o da IA de fonte aberta pela OpenAI<\/span><\/h2>\n
A IA de c\u00f3digo aberto \u00e9 um risco para as grandes empresas de tecnologia?<\/span><\/h2>\n