{"id":12757,"date":"2024-06-06T11:08:08","date_gmt":"2024-06-06T11:08:08","guid":{"rendered":"https:\/\/dailyai.com\/?p=12757"},"modified":"2024-06-06T15:07:56","modified_gmt":"2024-06-06T15:07:56","slug":"nvidia-blackwell-by-the-numbers-the-potential-impact-of-nvidias-new-ai-superchip","status":"publish","type":"post","link":"https:\/\/dailyai.com\/pt\/2024\/06\/nvidia-blackwell-by-the-numbers-the-potential-impact-of-nvidias-new-ai-superchip\/","title":{"rendered":"NVIDIA Blackwell em n\u00fameros - o potencial impacto do novo superchip de IA da NVIDIA"},"content":{"rendered":"

NVIDIA CEO Jensen Huang<\/span> descreveu recentemente em pormenor o mais recente chip acelerador de IA da empresa, denominado Blackwell, na apresenta\u00e7\u00e3o da empresa na Computex 2024.\u00a0<\/strong><\/p>\n

Com o Blackwell, a NVIDIA pretende cimentar o seu dom\u00ednio no crescente espa\u00e7o do hardware de IA, ao mesmo tempo que prova a sua capacidade de inovar progressivamente. <\/span><\/p>\n

Com a capitaliza\u00e7\u00e3o bolsista da empresa a aproximar-se da marca dos $3 bili\u00f5es, a ascens\u00e3o da NVIDIA ao comando supremo da infraestrutura de IA tem sido nada menos do que espantosa. <\/span><\/p>\n

Huang n\u00e3o v\u00ea sinais de estagna\u00e7\u00e3o do progresso, uma vez que a empresa continua a superar as expectativas dos analistas<\/a>.\u00a0<\/span><\/p>\n

Mas o que \u00e9 que as especifica\u00e7\u00f5es e os n\u00fameros nos dizem realmente sobre as capacidades e o potencial impacto da Blackwell?\u00a0<\/span><\/p>\n

Vejamos mais de perto o impacto que poder\u00e1 ter na ind\u00fastria da IA e na sociedade em geral.\u00a0<\/span><\/p>\n

Pot\u00eancia bruta de computa\u00e7\u00e3o<\/h2>\n

O n\u00famero principal \u00e9 que um \u00fanico Blackwell \"superchip\"<\/a> - que consiste em duas matrizes de GPU ligadas por uma liga\u00e7\u00e3o de alta velocidade - tem uns impressionantes 208 mil milh\u00f5es de trans\u00edstores.\u00a0<\/span><\/p>\n

Trata-se de um aumento de quase 3X em rela\u00e7\u00e3o ao chip Hopper da gera\u00e7\u00e3o anterior da NVIDIA. A NVIDIA afirma que isto se traduz num aumento de velocidade de 30X em tarefas de infer\u00eancia de IA em compara\u00e7\u00e3o com o Hopper.<\/span><\/p>\n

Para colocar isto em perspetiva, consideremos um exemplo de modelo de linguagem de grande dimens\u00e3o (LLM) com 100 mil milh\u00f5es de par\u00e2metros, semelhante em escala ao GPT-3.\u00a0<\/span><\/p>\n

Para treinar um modelo deste tipo nas GPUs A100 da gera\u00e7\u00e3o anterior da NVIDIA seriam necess\u00e1rios cerca de 1024 chips A100 a funcionar durante um m\u00eas.<\/span><\/p>\n

Com o Blackwell, a NVIDIA afirma que o mesmo modelo pode ser treinado em pouco mais de uma semana utilizando 256 chips Blackwell - uma redu\u00e7\u00e3o de 4X no tempo de treino.<\/span><\/p>\n

Efici\u00eancia energ\u00e9tica<\/h2>\n

Apesar dos seus ganhos dram\u00e1ticos de desempenho, a NVIDIA afirma que o Blackwell pode reduzir o custo e o consumo de energia at\u00e9 25 vezes em compara\u00e7\u00e3o com o Hopper para determinadas cargas de trabalho de IA.\u00a0<\/span><\/p>\n

A empresa deu o exemplo do treino de um modelo com 1,8 bili\u00f5es de par\u00e2metros, que anteriormente teria exigido 8000 GPUs Hopper com 15 megawatts de pot\u00eancia. <\/span><\/p>\n

Com o Blackwell, a NVIDIA diz que isto pode ser conseguido com 2.000 GPUs que consomem apenas 4 megawatts.<\/span><\/p>\n

Embora um consumo de energia de 4 megawatts para uma \u00fanica execu\u00e7\u00e3o de treinamento de IA ainda seja substancial, \u00e9 impressionante que a Blackwell possa fornecer um aumento de quase 4X na efici\u00eancia energ\u00e9tica para uma tarefa t\u00e3o exigente.<\/span><\/p>\n

N\u00e3o vamos subestimar os n\u00fameros. Para colocar esse valor de 4 megawatts em perspetiva, \u00e9 equivalente ao consumo m\u00e9dio de energia de mais de 3.000 resid\u00eancias nos EUA.<\/p>\n

Assim, um \u00fanico supercomputador de IA da Blackwell a treinar um modelo de \u00faltima gera\u00e7\u00e3o consumiria tanta energia como uma cidade inteira durante o per\u00edodo de treino.<\/p>\n

E isto \u00e9 apenas para um treino - as organiza\u00e7\u00f5es que desenvolvem grandes modelos de IA refinam frequentemente os seus modelos atrav\u00e9s de muitas itera\u00e7\u00f5es, e depois temos de considerar que h\u00e1 centenas de organiza\u00e7\u00f5es a desenvolver grandes modelos.<\/p>\n

Custos ambientais<\/h2>\n

Mesmo com uma maior efici\u00eancia energ\u00e9tica, a ado\u00e7\u00e3o generalizada da Blackwell poder\u00e1 aumentar significativamente o consumo global de energia da ind\u00fastria.<\/span><\/p>\n

Por exemplo, vamos supor que existem atualmente 100.000 GPUs de elevado desempenho a serem utilizadas para forma\u00e7\u00e3o e infer\u00eancia de IA em todo o mundo.\u00a0<\/span><\/p>\n

Se a Blackwell permitir um aumento de 10X na ado\u00e7\u00e3o da IA nos pr\u00f3ximos anos, o que n\u00e3o parece ser um n\u00famero extraordin\u00e1rio, isso significaria 1 milh\u00e3o de GPUs Blackwell em utiliza\u00e7\u00e3o.<\/p>\n

Com o consumo de energia de 1,875 kilowatts por GPU que Huang citou, 1 milh\u00e3o de GPUs Blackwell consumiriam 1,875 gigawatts de energia - quase a produ\u00e7\u00e3o de duas centrais nucleares m\u00e9dias. <\/span><\/p>\n

As centrais nucleares demoram muitos anos a construir e custam bili\u00f5es. Foram concebidas principalmente para apoiar infra-estruturas nacionais e n\u00e3o apenas para treinar modelos de IA.\u00a0<\/span><\/p>\n

An\u00e1lises anteriores<\/a> previram que as cargas de trabalho de IA poder\u00e3o consumir tanta energia como um pequeno pa\u00eds at\u00e9 2027, e \u00e9 dif\u00edcil ver exatamente como estas exig\u00eancias ser\u00e3o satisfeitas de forma razo\u00e1vel.<\/p>\n

O consumo de \u00e1gua \u00e9 tamb\u00e9m um problema colossal, com a Microsoft a revelar enormes aumentos nos seus consumo de \u00e1gua de 2022 a 2023<\/a>que se correlacionava com a forma\u00e7\u00e3o de modelos de IA e a procura de centros de dados.<\/p>\n

Algumas zonas dos EUA j\u00e1 enfrentaram escassez de \u00e1gua devido ao consumo dos centros de dados.<\/p>\n

Sem encontrar melhores formas de fazer funcionar o hardware de IA a partir de energias renov\u00e1veis, as emiss\u00f5es de carbono e o consumo de \u00e1gua da IA alimentada por Blackwell ser\u00e3o enormes, com a NVIDIA a acelerar a era da \"hiperescala\" do treino de modelos de IA.<\/p>\n

E para al\u00e9m do consumo de energia, \u00e9 essencial considerar outros custos ambientais, como os minerais de terras raras e outros recursos necess\u00e1rios para fabricar chips avan\u00e7ados como o Blackwell \u00e0 escala e os res\u00edduos gerados quando chegam ao fim da vida \u00fatil.<\/span><\/p>\n

Isto n\u00e3o quer dizer que os benef\u00edcios sociais das capacidades de IA reveladas por Blackwell n\u00e3o possam compensar estes custos ambientais.<\/span><\/p>\n

Mas isso significa que o impacto ambiental ter\u00e1 de ser cuidadosamente gerido e atenuado como parte de qualquer plano de implanta\u00e7\u00e3o respons\u00e1vel do Blackwell. H\u00e1 um ponto de interroga\u00e7\u00e3o persistente sobre se isso \u00e9 poss\u00edvel ou realista.\u00a0\u00a0<\/span><\/p>\n

O potencial impacto da Blackwell<\/h2>\n

Vejamos como seria o mundo numa era de ado\u00e7\u00e3o generalizada do Blackwell.<\/span><\/p>\n

Algumas estimativas de fundo de caixa d\u00e3o uma ideia das possibilidades e dos riscos:<\/span><\/p>\n