Durante el Red Hat Summit celebrado en Boston, Red Hat y AMD anunciaron una ampliación de su colaboración estratégica. Esta asociación tiene como objetivo ofrecer soluciones optimizadas para cargas de trabajo de inteligencia artificial (IA) y virtualización en entornos de nube híbrida. Al combinar las soluciones de código abierto líderes de Red Hat con la cartera de arquitecturas de computación de alto rendimiento de AMD, ambas compañías buscan proporcionar a los clientes una mayor flexibilidad y eficiencia en sus operaciones.

Impulsando la inferencia de IA con AMD Instinct y Red Hat OpenShift AI

Una de las principales áreas de enfoque de esta colaboración es la mejora del rendimiento de la inferencia de IA. Red Hat y AMD han trabajado conjuntamente para habilitar completamente las GPU AMD Instinct en Red Hat OpenShift AI, lo que permite a los clientes desplegar modelos de IA de manera eficiente en la nube híbrida sin requerir recursos extremos. Además, se ha demostrado con éxito la inferencia de modelos de lenguaje grandes (LLM) y pequeños (SLM) utilizando las GPU AMD Instinct MI300X en Red Hat Enterprise Linux AI, ejecutándose en Microsoft Azure ND MI300X v5. Esta configuración permite escalar modelos de IA en múltiples GPU dentro de una sola máquina virtual, reduciendo la necesidad de desplegar múltiples VMs y disminuyendo los costos de rendimiento.

Colaboración en la comunidad vLLM para una inferencia más eficiente

Para fomentar una inferencia de IA más eficiente, Red Hat y AMD están colaborando en la comunidad upstream de vLLM. Esta colaboración busca mejorar el rendimiento en las GPU de AMD mediante la integración de la biblioteca de kernels de AMD y la optimización de componentes como el kernel Triton y FP8. Estas mejoras permiten una ejecución más rápida y eficiente de vLLM en los aceleradores AMD Instinct MI300X. Además, se están realizando esfuerzos para mejorar la comunicación colectiva y optimizar las cargas de trabajo en múltiples GPU, lo que facilita despliegues de IA más escalables y energéticamente eficientes.

Modernización de sistemas virtualizados con Red Hat OpenShift Virtualization y AMD EPYC

La colaboración también se extiende a la modernización de sistemas virtualizados. Red Hat OpenShift Virtualization, ejecutándose sobre procesadores AMD EPYC, ayuda a las organizaciones a modernizar sus sistemas existentes de manera más sencilla, preparándolos para innovaciones futuras. Esta combinación permite a las empresas aprovechar al máximo sus inversiones actuales en infraestructura, facilitando la transición hacia entornos más modernos y eficientes. 

Beneficios para los clientes en la nube híbrida

Con esta colaboración ampliada, los clientes se benefician de una mayor variedad de opciones para desplegar modelos de IA optimizados y eficientes, así como de soluciones de virtualización más rentables. La integración de las tecnologías de Red Hat y AMD proporciona una plataforma sólida para abordar las crecientes demandas de cargas de trabajo diversificadas, especialmente en un entorno donde la IA desempeña un papel cada vez más importante. Esta alianza estratégica refuerza el compromiso de ambas compañías de ofrecer soluciones innovadoras y de alto rendimiento en la nube híbrida.

El artículo puede contener imprecisiones y/o errores, consulte la web del fabricante para obtener la principal información.