Red Hat, el proveedor de soluciones open source, y AMD anunciaron una colaboración estratégica para impulsar las capacidades de IA y optimizar la infraestructura virtualizada desde el Red Hat Summit en Boston. Con esta alianza más estrecha, Red Hat y AMD ampliarán las opciones de los clientes en la nube híbrida, desde la implementación de modelos de IA optimizados y eficientes hasta la modernización de máquinas virtuales (VM) tradicionales a costos más bajos.
A medida que la demanda y la diversidad de las cargas de trabajo siguen aumentando con la introducción de la IA, las empresas deben contar con la capacidad y los recursos necesarios para satisfacer estas crecientes necesidades. Sin embargo, el centro de datos promedio se dedica principalmente a sistemas de TI tradicionales, lo que deja poco margen para dar soporte a cargas de trabajo intensivas como la IA. Para responder a esta necesidad, Red Hat y AMD combinan la potencia de las soluciones de código abierto líderes en la industria de Red Hat con el completo portfolio de arquitecturas de computación de alto rendimiento de AMD.
‘Aprovechar al máximo los beneficios de la IA implica que las empresas deben contar con la opción y la flexibilidad necesarias para optimizar su infraestructura de TI ante las exigencias de la creciente demanda. Nuestra colaboración con AMD amplía el abanico de opciones para las empresas que buscan preparar sus entornos de TI para un futuro en constante evolución, desde la modernización de las actuales inversiones en una arquitectura de CPU de alto rendimiento y una plataforma de virtualización hasta la preparación de la IA para producción mediante aceleradores de hardware de próxima generación y tecnologías de IA open source’, dijo Ashesh Badani, vicepresidente sénior y director de productos, Red Hat.
AMD y Red Hat: rumbo a una IA generativa más eficiente
Red Hat y AMD están combinando el poder de Red Hat AI con el portfolio de procesadores AMD basados en x86 y arquitecturas de GPU para ofrecer entornos optimizados, listos para producción y de bajo costo para cargas de trabajo con capacidades de IA.
Las GPU AMD Instinct ya están totalmente habilitadas en Red Hat OpenShift AI, lo que proporciona a los clientes la potencia de procesamiento de alto rendimiento necesaria para las implementaciones de IA en la nube híbrida sin grandes necesidades de recursos. Además, mediante el uso de las GPU AMD Instinct MI300X con Red Hat Enterprise Linux IA, Red Hat y AMD realizaron pruebas en Microsoft Azure ND MI300X v5, que demostraron con éxito la inferencia de IA para escalar modelos de lenguaje pequeño (SLM) y modelos de lenguaje de gran tamaño (LLM) implementados en múltiples GPU en una sola VM, lo que reduce la necesidad de implementar en múltiples VM y los costos de rendimiento.
Para impulsar aún más las capacidades de aceleración y ajuste del rendimiento, Red Hat y AMD colaboran en la comunidad vLLM de desarrollo para promover una inferencia de IA más eficiente. Por medio de esta activación en la etapa de desarrollo inicial, Red Hat y AMD buscan ofrecer mayor rendimiento en las GPU de AMD, mayor compatibilidad con múltiples y mayor Mayor participación en el ecosistema de vLLM.
Sobre la base de esta colaboración en la comunidad vLLM, las GPU AMD Instinct admitirán Red Hat AI Inference Server, la distribución empresarial de vLLM de Red Hat lista para usar, para proporcionar un servidor de inferencia de IA potente, confiable y escalable. Como principal colaborador comercial de vLLM, Red Hat se compromete a facilitar la compatibilidad al implementar vLLM en el hardware preferido de una empresa, que incluye las GPU AMD Instinct. Ejecutar vLLM en las GPU AMD Instinct permite a las empresas implementar cualquier modelo de IA open source en hardware de GPU validado y probado para lograr una optimización y un rendimiento excepcionales.
Las CPU AMD EPYC™ también permiten un rendimiento integral de la IA y son ideales para alojar sistemas con GPU. Esto puede ayudar a mejorar el rendimiento y el retorno de la inversión de cada servidor GPU, incluso para las cargas de trabajo de IA más exigentes.
La transformación del centro de datos moderno
Al optimizar los entornos de los centros de datos existentes, las empresas pueden reinvertir recursos de manera más eficaz y sencilla para fomentar la innovación en IA. Red Hat OpenShift Virtualization, una función de Red Hat OpenShift, ofrece una ruta optimizada para que las empresas migren y gestionen las cargas de trabajo de VM con la simplicidad y la velocidad de una plataforma de aplicaciones nativa de la nube. Red Hat OpenShift Virtualization está validado para los procesadores AMD EPYC, es capaz de aprovechar el excelente rendimiento y la eficiencia energética de estos procesadores, donde sea necesario en la nube híbrida, y, a su vez, de mantener un puente hacia un futuro nativo de la nube.
Red Hat OpenShift Virtualization en las CPU AMD EPYC ayuda a las empresas a optimizar la implementación de aplicaciones en servidores líderes, como Dell PowerEdge, HPE ProLiant y Lenovo ThinkSystem. Al actualizar un centro de datos heredado, Red Hat OpenShift Virtualization unifica las VM y las aplicaciones en contenedores, ya sea en modo local, en nubes públicas o en la nube híbrida. Esto ayuda a alcanzar índices de consolidación de infraestructura elevados, lo que puede derivar en un costo total de propiedad (TCO) significativamente menor en términos de hardware, licencias de software y consumo energético. También ofrece la ventaja de que permite a los equipos de TI gestionar cargas de trabajo críticas de forma más eficaz hoy y, al mismo tiempo, liberar recursos y energía para aplicarlos a cargas de trabajo de IA tanto ahora como en el futuro.
