O laboratório da IBM Research em Almaden, Califórnia, anunciou o seu protótipo de chip NorthPole que poderá tornar a IA na periferia uma realidade mais cedo do que o esperado.
A execução de modelos de IA requer muito processamento e muita energia. Os anúncios quase semanais de dispositivos mais rápidos e mais potentes parecem incessantes, mas está a aproximar-se um limite difícil. Pólo Norte da IBM pode ajudar os engenheiros a ultrapassar os limites das tecnologias actuais.
A Lei de Moore estabelece que o número de transístores em circuitos integrados duplica todos os anos, com melhorias associadas no desempenho. Durante muito tempo, esta lei manteve-se, mas o aumento da densidade tem vindo a abrandar nos últimos tempos.
As leis da termodinâmica estabelecem um limite rígido para o número de transístores que podem caber num nanómetro quadrado, mas é a disposição típica dos chips que, por enquanto, prejudica o desempenho.
O "estrangulamento von Neumann" é o maior culpado quando se trata de tornar os chips mais lentos e ineficientes. A arquitetura Von Neumann refere-se à disposição típica dos chips de computador, com a memória de um lado, o processamento do outro e um barramento de dados a ligar os dois.
O chip NorthPole é composto por 256 unidades de computação, ou núcleos, cada um contendo a sua própria memória. Este híbrido de computação e memória no mesmo pedaço de chip elimina a necessidade de memória fora do chip.
Uma vez que os dados não têm de ser transferidos da memória para o processador e novamente para a memória, o chip é muito mais rápido e mais eficiente em termos energéticos.
Conceção de chips inspirados no cérebro
Dharmendra Modha, cientista-chefe da IBM para a computação inspirada no cérebro, diz que os núcleos estão ligados uns aos outros de uma forma inspirada nas ligações da matéria branca no córtex cerebral do cérebro humano.
A IBM partilhou o resultados dos testes em Science.org que afirmava que "o NorthPole consegue uma métrica energética 25 vezes superior de fotogramas por segundo (FPS) por watt, uma métrica espacial 5 vezes superior de FPS por transístor e uma métrica temporal 22 vezes inferior de latência".
Basicamente, diz-se que consome muito menos energia, é muito mais pequeno e funciona muito mais depressa do que outros chips.
O que torna os resultados iniciais da IBM especialmente interessantes é o facto de o NorthPole ter sido fabricado com tecnologia de 12 nm. Isto significa que os transístores do chip têm 12 nm de dimensão. A atual tecnologia de ponta para o fabrico de chips já está reduzida a 3 nm.
Quando a IBM reproduzir a arquitetura do chip NorthPole a esse nível, a densidade de processamento e as eficiências estarão muito à frente de tudo o que a indústria tem atualmente disponível.
Os saltos no processamento de chips mais pequenos e que consomem muito menos energia tornam a IA nas aplicações periféricas uma perspetiva tentadora. Os veículos autónomos e mesmo os dispositivos portáteis ou wearables poderão vir a executar modelos completos de IA sem necessidade de computação em nuvem.
