Akash Systems presentó servidores de IA refrigerados por diamante con GPU AMD Instinct MI350X

Akash Systems, Inc. puso en disponibilidad servidores de inteligencia artificial (IA) refrigerados por diamante, equipados con GPU AMD Instinct MI350X y fabricados por Mitac Computing (3706.TW). La iniciativa se presentó como la primera implementación comercial de una GPU AMD Instinct con Diamond Cooling en centros de datos de IA. La compañía también prevé lanzar durante este año soluciones Diamond Cooling para otros sistemas AMD Instinct, entre ellos MI355X y futuras GPU de la línea.

La propuesta se apoya en las propiedades térmicas del diamante. El material “elimina el calor 5 veces más rápido que el cobre”, que se utiliza como estándar de la industria para la gestión del calor. En ese marco, Diamond Cooling se plantea como una tecnología complementaria a los esquemas de refrigeración por aire y por líquido ya utilizados en infraestructura de centros de datos.

En términos de operación, se informó una reducción de temperatura de hasta 10 °C (18 °F) tanto en la GPU como en la memoria de alto ancho de banda (HBM, por sus siglas en inglés). Con esa baja térmica, el objetivo es obtener mayor potencia de cómputo con los mismos sistemas de alimentación, con impacto en indicadores de eficiencia de centros de datos como la eficacia en el uso de la energía (PUE), la densidad del centro de datos y el retorno de la inversión (ROI).

El esquema de “rendimiento sin limitaciones” se asoció a mejoras de hasta 22% en FLOP por vatio en temperaturas ambientales estándar de centros de datos (~75 °F). Además, se planteó que un centro de datos podría operar con hasta 100% menos de energía dedicada a la refrigeración y sostener alto rendimiento hasta una temperatura ambiente de ~120 °F, a partir de la reducción de la temperatura de la GPU. En pruebas realizadas por Akash, ese escenario “podría suponer una mejora del rendimiento de hasta un 15%” en esas condiciones.

La compañía estimó que cada servidor Diamond Cooled podría generar hasta US$ 1 millón en valor incremental en cuatro años, en comparación con servidores sin estas soluciones. También se indicó que se recibieron US$ 300 millones por el pedido inicial de lanzamiento.

“La demanda de IA está superando rápidamente a la infraestructura que la sustenta”, dijo el Dr. Felix Ejeckam, cofundador y director ejecutivo de Akash Systems.

Los nuevos servidores se fabrican y se implementan en colaboración con Mitac Computing y quedan cubiertos por las garantías existentes de AMD y del fabricante. La configuración informada incluye dos CPU AMD EPYC 9005 de quinta generación, tarjetas de interfaz de red (NIC) para IA AMD Pensando Pollara 400 y la pila de software AMD ROCm.