La contestación de IBM a la supercomputadora rentable ya ha estado marchando a lo largo de múltiples meses, mas últimamente filtró información tangible sobre su llamado proyecto Candela.
Pasando a su weblog (se abre en una nueva pestañita) para discutir los detalles, IBM descubrió que la investigación, escrita por 5 empleados de la compañía, aborda los inconvenientes con las supercomputadoras precedentes y su falta de preparación para futuras labores de IA.
Con el fin de ajustar el modelo de supercomputadora para este futuro tipo de carga de trabajo, la compañía resalta las resoluciones que ha tomado en términos de emplear hardware accesible mas potente.
Supercomputadora Candela AI de IBM
El libro resalta que "edificar un la supercomputación ha significado nodos bare metal, hardware de red de alto desempeño... sistemas de ficheros paralelos y otras cosas típicamente asociadas con la computación de alto desempeño (HPC).
Si bien no cabe duda de que estas supercomputadoras pueden manejar grandes cargas de trabajo de IA, incluida una desarrollada para OpenAI, la puesta en marcha tras el popular software de chat en vivo ChatGPT, la falta de optimización quiere decir que las supercomputadoras tradicionales podrían perder potencia valiosa y tener un exceso en otras áreas, lo que produce gastos superfluos. .
Aunque a lo largo de un buen tiempo se ha admitido que los nodos bare metal son los más ideales para la IA, IBM deseaba explorar la posibilidad de ofrecerlos dentro de una máquina virtual (VM). El resultado, conforme Big Blue, es un enorme incremento del desempeño.
“Después de una cantidad significativa de investigación y descubrimiento, inventamos una forma de exponer todas y cada una de las capacidades de los nodos (GPU, CPU, red y almacenaje) en la máquina virtual a fin de que la sobrecarga de virtualización sea inferior al cinco %, que es la sobrecarga más baja en la industria que conocemos.
En términos de diseño de nodos, Candela viene con ochenta GB o memoria GPU, uno con cinco TB de DRAM y 4 unidades de almacenaje NVMe de tres con dos TB.
The Next Platform (se abre en una nueva pestañita) estima que si IBM quisiese que su supercomputadora figurase en el ranking Top500, ofrecería alrededor de veintisiete con nueve petaflops de desempeño, lo que la pondría en el puesto quince conforme el ranking de noviembre de dos mil veintidos.
Si bien las supercomputadoras de hoy en día son capaces de manejar cargas de trabajo de IA, los inmensos desarrollos en inteligencia artificial conjuntados con la necesidad apremiante de rentabilidad destacan la necesidad de una máquina de este género.