El laboratorio de IBM Research en Almaden, California, ha anunciado su prototipo de chip NorthPole, que podría hacer realidad la IA en los bordes antes de lo esperado.
Ejecutar modelos de IA requiere mucho procesamiento y mucha energía. Los anuncios casi semanales de dispositivos más rápidos y potentes parecen implacables, pero se acerca un límite duro. Polo Norte de IBM puede ayudar a los ingenieros a superar los límites de las tecnologías actuales.
La Ley de Moore establece que el número de transistores de los circuitos integrados se duplica cada año, con las consiguientes mejoras de rendimiento. Durante mucho tiempo esa ley se mantuvo, pero últimamente el aumento de la densidad se ha ralentizado.
Las leyes de la termodinámica imponen un límite a la cantidad de transistores que caben en un nanómetro cuadrado, pero por ahora es la disposición típica de los chips lo que dificulta el rendimiento.
El "cuello de botella von Neumann" es el mayor culpable de la ralentización y la ineficiencia de los chips. La arquitectura von Neumann se refiere a la disposición típica de los chips informáticos, con la memoria en un lado, el procesamiento en el otro y un bus de datos que conecta ambos.
El chip NorthPole se compone de 256 unidades de cálculo, o núcleos, cada uno con su propia memoria. Este híbrido de computación y memoria en el mismo espacio del chip elimina la necesidad de memoria externa.
Como los datos no tienen que pasar de la memoria al procesador y viceversa, el chip es mucho más rápido y eficiente desde el punto de vista energético.
Diseño de chips inspirado en el cerebro
Dharmendra Modha, científico jefe de IBM para informática inspirada en el cerebro, afirma que los núcleos están conectados entre sí de un modo inspirado en las conexiones de materia blanca de la corteza cerebral del cerebro humano.
IBM compartió la resultados de las pruebas en Science.org que decía que "NorthPole consigue una métrica energética 25 veces superior de fotogramas por segundo (FPS) por vatio, una métrica espacial 5 veces superior de FPS por transistor y una métrica temporal 22 veces inferior de latencia".
Básicamente dice que consume mucha menos energía, es mucho más pequeño y funciona mucho más rápido que otros chips.
Lo que hace especialmente emocionantes los resultados iniciales de IBM es que NorthPole se ha fabricado con tecnología de 12 nm. Esto significa que los transistores del chip miden 12 nm. La tecnología actual de fabricación de chips de última generación se reduce ya a 3 nm.
Cuando IBM reproduzca la arquitectura de chips de NorthPole a ese nivel, la densidad de procesamiento y la eficiencia estarán muy por delante de cualquier otra cosa de la que disponga actualmente la industria.
Los avances en el procesamiento de chips más pequeños y que consumen mucha menos energía hacen que las aplicaciones de IA en los bordes sean una perspectiva tentadora. Los vehículos autónomos e incluso los dispositivos portátiles o wearables podrían llegar a ejecutar modelos completos de IA sin necesidad de computación en la nube.
