La inteligencia artificial (IA) ha llegado para quedarse. “Cada industria se convertirá en una industria tecnológica”, según Jensen Huang, fundador y director ejecutivo de NVIDIA. Los casos de uso de la IA son prácticamente ilimitados, desde avances en la medicina hasta la prevención del fraude de alta precisión. La IA ya está transformando nuestras vidas de la misma manera que está transformando cada industria, y también está comenzando a transformar principalmente la infraestructura del centro de datos.
Las cargas de trabajo de IA están impulsando cambios significativos en la forma en que alimentamos y enfriamos los datos procesados como parte de la computación de alto rendimiento (HPC). Un rack de TI utilizado típicamente para ejecutar cargas de trabajo de 5 a 10 kilovatios (kW) y racks que ejecutan cargas superiores a 20 kW se consideran de alta densidad, una visión rara fuera de aplicaciones muy específicas con un alcance estrecho. La TI se está acelerando con las GPU para satisfacer las necesidades de computación de los modelos de IA, y estos chips de IA pueden requerir aproximadamente cinco veces más potencia y cinco veces más capacidad de enfriamiento en el mismo espacio que un servidor tradicional.
Mark Zuckerberg anunció que para fines de 2024, Meta gastará miles de millones en implementar 350,000 GPU H100 de NVIDIA. Las densidades de racks de 40 kW por rack ahora están en el extremo inferior de lo que se requiere para facilitar las implementaciones de IA, con densidades de rack superiores a 100 kW por rack que se vuelven comunes y a gran escala en un futuro cercano.
Esto requerirá grandes aumentos de capacidad en todo el tren de potencia, desde la red hasta los chips en cada rack. La introducción de tecnologías de enfriamiento líquido en el espacio en blanco del centro de datos y, finalmente, en las salas de servidores empresariales, será un requisito para la mayoría de las implementaciones, ya que los métodos de enfriamiento tradicionales no podrán manejar el calor generado por las GPU que ejecutan cálculos de IA. Las inversiones para actualizar la infraestructura necesaria para alimentar y enfriar el hardware de IA son sustanciales y navegar por estos nuevos desafíos de diseño es fundamental.
La transición a la computación acelerada no ocurrirá de la noche a la mañana. Los diseñadores de centros de datos y salas de servidores deben buscar formas de preparar la infraestructura de alimentación y enfriamiento para el futuro, y a la vez tener en cuenta el crecimiento futuro de sus cargas de trabajo. Obtener suficiente alimentación para cada rack requiere actualizaciones desde la red hasta el rack. En el espacio en blanco específicamente, esto probablemente significa PDU de rack de alta densidad y blindobarras de alto amperaje.
Para eliminar la enorme cantidad de calor generado por el hardware que ejecuta cargas de trabajo de IA, están surgiendo dos tecnologías de enfriamiento líquido como opciones principales: el enfriamiento líquido directo al chip, donde las placas frías se asientan sobre los componentes generadores de calor, y otras soluciones que prometen ser clave para el futuro de los centros de datos de alta densidad.
