Dell Technologies integra tecnología AMD en sus servidores para Inteligencia Artificial

Dell Technologies ofrece una amplia gama tanto de servicios como de hardware (servidores) especialmente pensado…

Dell Technologies ofrece una amplia gama tanto de servicios como de hardware (servidores) especialmente pensado para implantar soluciones de Inteligencia Artificial en las empresas.

Aquí tiene el Hub para Servicios y Hardware para IA de Dell Technologies.

El próximo 3 de diciembre Dell España presenta estas y otras novedades en el IFEMA de Madrid, una gran oportunidad para ponerse al día. Registrarse en el Dell Technologies Forum.

En una nota de prensa de 14/10/2024 en España Dell Technologies informa que ha ampliado su gama de soluciones de IA generativa (GenAI) con nuevos servidores con tecnología AMD.

«Al integrar la tecnología AMD en los últimos servidores, soluciones de IA y servicios de Dell a través de Dell AI Factory, estamos proporcionando el rendimiento y la eficiencia que las empresas necesitan, hoy y en el futuro», afirmó Arthur Lewis, presidente del Grupo de Soluciones de Infraestructura de Dell Technologies. «Junto con AMD, estamos estableciendo nuevos estándares en el rendimiento de la IA, ofreciendo a las empresas soluciones potentes y rentables esenciales para los entornos modernos basados en datos».

«Nuestros nuevos procesadores y aceleradores AMD EPYC y aceleradores AMD Instinct proporcionan a los clientes de Dell soluciones avanzadas end-to-end a escala que acelerarán las implementaciones IA y potenciarán la infraestructura de TI crítica para el negocio”, afirmó Forrest Norrod, vicepresidente ejecutivo y director general del Grupo de Soluciones para Centros de Datos de AMD. «Nuestra colaboración con Dell sigue ofreciendo soluciones de vanguardia que ayudan a mejorar la eficiencia operativa y a reducir el tiempo de generación de valor, fomentando la innovación en industrias altamente competitivas».

Los nuevos servidores Dell PowerEdge impulsan cargas de trabajo de IA a escala

Las incorporaciones a la gama de Dell PowerEdge impulsan una amplia gama de casos de uso de IA y cargas de trabajo tradicionales, y simplifican la administración y la seguridad de los servidores. Las plataformas proporcionan soluciones personalizables y eficientes que simplifican la gestión y soportan cargas de trabajo de alto rendimiento para las empresas.

• Diseñado para cargas de trabajo de IA empresarial, el Dell PowerEdge XE7745 admite hasta ocho GPU PCIe de doble ancho o 16 GPU PCIe de ancho único con procesadores AMD EPYC de 5ª generación en un chasis de 4U refrigerado por aire. Diseñadas específicamente para la inferencia de IA, el ajuste fino de modelos y la computación de alto rendimiento, las ranuras de GPU internas se combinan con ocho ranuras PCIe Gen 5.0 adicionales para la conectividad de red, lo que crea configuraciones densas y flexibles con el doble de capacidad de GPU DW PCIe.¹
• Los servidores PowerEdge R6725 y R7725 están optimizados para la escalabilidad y el alto rendimiento de los procesadores AMD EPYC de 5ª generación. El nuevo diseño del chasis DC-MHS permite una refrigeración por aire mejorada y dos CPU de 500 W, lo que permite superar los difíciles desafíos térmicos en cuanto a potencia y eficiencia². Estas plataformas mantienen un riguroso análisis de datos y cargas de trabajo de IA, con configuraciones optimizadas para la escalabilidad, y ofrecen un rendimiento récord para cargas de trabajo como la virtualización, las bases de datos y la IA.³ El R7725 ofrece hasta un 66% más de rendimiento y hasta un 33% más de eficiencia en la parte superior de la pila.⁴

Las tres plataformas pueden admitir hasta un 50% más de núcleos, con un aumento de hasta el 37% en el rendimiento por núcleo, lo que se traduce en un mayor rendimiento, eficiencia y un mejor coste total de propiedad.⁵ Estas mejoras consolidan hasta siete servidores de 5 años de antigüedad en un solo servidor, lo que se traduce en un consumo de energía de CPU hasta un 65% menor.⁶

• Los servidores PowerEdge R6715 y R7715 con procesadores AMD EPYC de 5ª generación ofrecen un mayor rendimiento, eficiencia y hasta un 37% más de capacidad de unidad, lo que se traduce en una mayor densidad de almacenamiento.⁷ Disponibles en varias opciones de configuración, los servidores de un solo socket admite el doble de memoria con soporte para 24 DIMM (2DPC) y cumplen con diversos requisitos de carga de trabajo y maximizan el rendimiento en chasis compactos de 1U y 2U.⁸ El R6715 registra un rendimiento récord mundial para tareas de IA y virtualización.⁹ 

Para los clientes que implementan IA a escala, Dell Technologies también seguirá siendo compatible con todos los aceleradores AMD Instinct más recientes en los servidores Dell PowerEdge XE.

Los equipos de TI pueden monitorizar, administrar y actualizar de forma remota los servidores Dell PowerEdge con el controlador de acceso remoto integrado de Dell (iDRAC) actualizado. Con un procesador más rápido, mayor memoria y un coprocesador de seguridad dedicado, iDRAC simplifica la administración y la seguridad del servidor, lo que permite a los equipos de TI responder con mayor confiabilidad y eficiencia.

“Los sistemas proporcionados por Dell Technologies y AMD para OSF Healthcare nos permiten ofrecer mejores servicios a nuestros médicos y pacientes, reducir nuestros costes generales y ayudar a las comunidades necesitadas. Cuando la vida de los pacientes depende de nuestras plataformas, es fundamental que nuestros sistemas permanezcan estables y operativos las 24 horas del día, los 7 días de la semana, los 365 días del año», afirmó Joe Morrow, director de Technology Services de OSF Healthcare. «Gracias a estos sistemas, hemos reducido significativamente los tiempos de inactividad, lo que permite a OSF Healthcare proporcionar servicios de atención médica superiores al tiempo que garantiza la seguridad y la escalabilidad en nuestras operaciones».

Las mejoras de Dell AI Factory simplifican y aceleran las implementaciones de GenAI

Dell AI Factory está diseñada para respaldar diversos requisitos de IA con la gama de soluciones de IA más amplia del mundo, desde ordenadores de sobremesa hasta centros de datos y nubes, lo que permite a las organizaciones ajustar el tamaño de sus inversiones en IA:

• Soluciones de IA generativa de Dell con AMD que utilizan el servidor Dell PowerEdge XE9680 con aceleradores AMD Instinct™ MI300X para ofrecer inferencia, generación aumentada por recuperación (RAG en inglés) y personalización de IA. La integración simplifica la implementación de IA, mejora la seguridad, permite arquitecturas escalables y modulares y reduce el tiempo de generación de valor hasta en un 86%, lo que ayuda a las organizaciones a optimizar sus inversiones en IA.¹⁰

• El Dell Enterprise Hub en Hugging Face ahora es compatible con Dell PowerEdge XE9680 con aceleradores AMD Instinct MI300X, lo que proporciona contenedores y scripts personalizados para una implementación fácil y segura de modelos como Llama y Mixtral. Estos modelos en contenedores están optimizados de forma única para aumentar el rendimiento de la inferencia en función del modelo y el servidor y aprovechar el back-end de Hugging Face Text Generation Inference (TGI)
• Los servicios profesionales de Dell para IA generativa se están ampliando para admitir entornos AMD. Los nuevos servicios de implementación de Dell para la plataforma GenAI con AMD proporcionan una plataforma operativa personalizada, que incluye la configuración de Kubernetes, la implementación de marcos de IA avanzados y la transferencia de conocimientos al cliente sobre las mejores prácticas para maximizar el retorno de la inversión. Desde el desarrollo de estrategias hasta la preparación de datos, la implementación de plataformas y modelos y el escalado de soluciones, los profesionales de Dell ayudan a los clientes a lograr resultados comerciales con IA durante todo el ciclo de vida.

«Dell Technologies y AMD siguen impulsando la innovación en IA, ofreciendo soluciones y servicios integrales que ayudan a las empresas a modernizar los centros de datos, mejorar la escalabilidad y utilizar la IA para impulsar mejores resultados comerciales», afirmó Kuba Stolarski, Research VP, IDC. «Las últimas actualizaciones de Dell AI Factory son el siguiente paso en el objetivo de Dell de ofrecer soluciones de IA que impulsen la eficiencia y el valor».

Disponibilidad

• El servidor Dell PowerEdge XE7745 estará disponible en todo el mundo a partir de enero de 2025

2. Los servidores Dell PowerEdge R6715, R7715, R6725 y R7725 estarán disponibles en todo el mundo a partir de noviembre de 2024.
3. Las soluciones de IA generativa de Dell con AMD estarán disponibles en todo el mundo a partir del cuarto trimestre de 2024.
4. Las actualizaciones de Dell Enterprise Hub en Hugging Face ya están disponibles en todo el mundo.
5. La plataforma de servicios de implementación de Dell para IA generativa ya está disponible en algunos países.

Dell PowerEdge XE: La infraestructura para la Inteligencia Artificial

Soluciones PowerEdge: Infraestructura para la Inteligencia Artificial

Dell ofrece una gama de servidores PowerEdge XE diseñados específicamente para optimizar la aceleración en inteligencia artificial (IA), IA generativa (GenAI) y computación de alto rendimiento (HPC) . Estos servidores, potentes plataformas que buscan transformar las ideas en acciones rápidamente, ofrecen una aceleración superior y una amplia variedad de opciones de GPU . La línea incluye modelos como el XE9680, XE9640 y XE8640, cada uno con características específicas para diferentes necesidades y escalas.

El PowerEdge XE9680, ideal para clústeres de supercomputación HPC y grandes conjuntos de datos de IA, destaca por su interconectividad completa entre GPUs, dos procesadores escalables Xeon® de 4ª generación con hasta 56 núcleos por procesador, hasta 32 ranuras DIMM de memoria DDR5, 8 unidades U.2 y 10 ranuras de expansión PCIe Gen 5 . Su sistema de refrigeración por aire eficiente (hasta 35°C) mejora la eficiencia energética .

El XE9640, con un diseño denso de 4 GPUs y refrigeración líquida, maximiza la superficie del centro de datos . Su factor de forma compacto de 2U permite una mayor densidad de núcleos de GPU por rack. Similar al XE9680 en términos de procesadores y memoria (dos procesadores Xeon® de 4ª generación y hasta 32 ranuras DIMM DDR5), se diferencia en el número de unidades y ranuras PCIe (4 unidades y 4 ranuras PCIe Gen 5) y en su sistema de refrigeración líquida para CPU y GPU, que optimiza el rendimiento y la velocidad, reduciendo el coste total de propiedad (TCO) gracias a la eficiencia energética .

El XE8640, un servidor de 4 GPUs con refrigeración por aire, se centra en acelerar el entrenamiento de IA, la inferencia, los análisis y las cargas de trabajo de simulación HPC . Alcanza un ancho de banda entre GPUs de hasta 900 GB/s y ofrece procesamiento continuo de datos y rendimiento de E/S más rápido gracias a la compatibilidad con GPUDirect® . Posee dos procesadores Xeon® de 4ª generación con hasta 56 núcleos, hasta 32 ranuras DIMM DDR5, 8 unidades y 4 ranuras de expansión PCIe Gen 5 , con un diseño de refrigeración por aire de 4U que admite tecnologías de última generación .

Más allá de los modelos XE, Dell ofrece el R760xa, un servidor 2RU con una amplia gama de GPUs basadas en PCIe, refrigeración por aire y adaptabilidad para una variedad de aplicaciones . Este servidor utiliza procesadores Xeon® de 4ª o 5ª generación con hasta 64 núcleos y aceleración IA integrada , memoria DDR5 y ranuras PCIe Gen 5 , y un diseño de refrigeración por aire que admite aceleradores TDP más altos (hasta 350 W) .

La flexibilidad en cuanto a opciones de acelerador es evidente, con soporte para Intel, AMD y NVIDIA . Dell destaca la colaboración con Intel, utilizando procesadores Intel® Xeon® con un marco de estándares abiertos para añadir aceleradores y GPUs , incluyendo opciones como las GPU para centros de datos Intel® serie Max y los aceleradores de IA Intel® Gaudi® 3 .

Dell complementa su oferta de hardware con servicios de soporte y consultoría para IA y GenAI, incluyendo ProSupport Suite, servicios de consultoría y servicios de implementación, para asegurar la máxima productividad y tiempo de actividad – . La compañía se posiciona como líder mundial en servidores de IA e infraestructura de almacenamiento , destacando su compromiso con la sostenibilidad con el PowerEdge, que tiene más plataformas registradas en EPEAT que cualquier otro proveedor y es el primer proveedor de nivel 1 en medir y realizar un seguimiento de las emisiones de carbono de los servidores de producción .

En resumen, la gama de servidores Dell PowerEdge XE ofrece una solución completa y robusta para las necesidades de computación de IA, desde pequeñas implementaciones hasta grandes clústeres de supercomputación, con una amplia gama de opciones de configuración y soporte.