IBM está aprovechando el poder del cerebro humano para innovar en el diseño de su hardware de inteligencia artificial, presentando recientemente el chip NorthPole. Este chip avanzado demuestra una latencia y eficiencia energética superiores en comparación con las GPU convencionales, destacando avances significativos en el campo de la inteligencia artificial.
El chip NorthPole opera con una arquitectura de 12 nanómetros, optimizada específicamente para tareas de inferencia neuronal, incluyendo la clasificación de imágenes y la detección de objetos. Según una investigación reciente publicada en Science, NorthPole logra una eficiencia energética impresionante, 25 veces mayor, y una latencia 22 veces menor que una GPU comparable en el benchmark ResNet50. Compuesto por 22 mil millones de transistores y con abundante memoria en el chip, NorthPole puede realizar cálculos directamente en el chip, reduciendo significativamente la necesidad de acceder a memoria externa y mejorando la velocidad y eficiencia general.
Una innovación clave del chip NorthPole es su naturaleza autoconclusiva, similar al cerebro humano. Como se menciona en las comunicaciones de IBM, "la memoria del dispositivo está completamente en el chip, en lugar de estar conectada por separado." Este diseño elimina la necesidad de transferencias constantes de datos entre la memoria y las unidades de procesamiento, evitando efectivamente el cuello de botella de von Neumann que a menudo afecta el rendimiento.
“El chip NorthPole es esencialmente una red completa en un solo chip,” explicó Dharmendra Modha, científico jefe de IBM para computación inspirada en el cerebro y principal desarrollador de esta tecnología. Notablemente, NorthPole tiene la capacidad de superar incluso a los chips fabricados con procesos más avanzados, como las GPU de 4 nanómetros.
Llevando la Tecnología al Límite
Aunque IBM planea iterar sobre el NorthPole, incluyendo experimentos con nodos de 2 nanómetros, que representarían un avance respecto a las CPU de 3 nanómetros actuales, este nuevo chip tiene limitaciones. No tiene acceso a memoria externa, lo que significa que no puede ejecutar redes neuronales más grandes directamente. En su lugar, enfrenta este desafío dividiendo redes más amplias en componentes más pequeños, conectando estos "sub-redes" a través de múltiples chips NorthPole. Modha se refiere a esta técnica como "scale-out", lo que permite un procesamiento eficiente.
“No podemos ejecutar GPT-4 en este chip, pero es más que capaz de atender muchos modelos a nivel empresarial,” afirmó Modha. NorthPole está diseñado específicamente para tareas de inferencia, lo que lo convierte en un candidato prometedor para aplicaciones edge que requieren procesamiento en tiempo real de grandes volúmenes de datos—particularmente relevante en tecnologías como vehículos autónomos.
Diseño Inspirado en el Cerebro
La arquitectura de NorthPole se inspira en la estructura y función del cerebro humano. Sus redes en chip (NoCs) facilitan la comunicación entre núcleos de procesamiento, mejorando aún más la distribución de cómputo y memoria. Los investigadores de IBM analogan estos caminos a las conexiones de materia blanca y materia gris del cerebro, que permiten un flujo de datos eficiente en los circuitos neuronales.
Además, NorthPole busca emular la precisión de las sinapsis cerebrales utilizando una menor precisión de bits de dos a cuatro bits, en contraste con los ocho a dieciséis bits empleados por las GPU tradicionales. Esta elección estratégica reduce considerablemente tanto los requerimientos de memoria como de energía, contribuyendo a la eficiencia del chip.
Perspectivas Futuras
IBM aún se encuentra en las fases iniciales de explorar el potencial completo del chip NorthPole, con investigaciones en diversas aplicaciones en curso. Inicialmente, el chip ha sido probado predominantemente en tareas de visión por computadora, en línea con la financiación recibida del Departamento de Defensa de EE. UU. Las aplicaciones, incluyendo detección, segmentación de imágenes y clasificación de video, han sido el enfoque de estos esfuerzos.
Adicionalmente, NorthPole ha sido probado en otras áreas, como procesamiento de lenguaje natural y reconocimiento de voz. El equipo de desarrollo está investigando oportunidades para mapear modelos de lenguaje grandes, solo decodificadores, en los sistemas "scale-out" de NorthPole, abriendo nuevas posibilidades para aprovechar esta tecnología de vanguardia en diversos sectores.
Clasificación
