NVIDIA y Google Cloud han fortalecido su colaboración para ofrecer soluciones avanzadas de inteligencia artificial (IA) que combinan la potencia de la arquitectura Blackwell de NVIDIA con los modelos de lenguaje Gemini de Google. Esta alianza estratégica busca facilitar el desarrollo y la implementación de aplicaciones de IA a gran escala, tanto en la nube como en entornos locales.

Integración de Blackwell en Google Cloud

Google Cloud se ha convertido en el primer proveedor de servicios en la nube en ofrecer las plataformas NVIDIA HGX B200 y GB200 NVL72 a través de sus máquinas virtuales A4 y A4X. Estas nuevas instancias, basadas en la arquitectura AI Hypercomputer de Google, están disponibles mediante servicios gestionados como Vertex AI y Google Kubernetes Engine (GKE), permitiendo a las organizaciones desarrollar e implementar aplicaciones de IA agentica de manera eficiente y escalable.

Despliegue de Gemini en entornos locales con Google Distributed Cloud

Para satisfacer las necesidades de sectores con estrictos requisitos de seguridad y cumplimiento, como el sector público, la salud y los servicios financieros, Google y NVIDIA han habilitado el despliegue de los modelos Gemini en entornos locales a través de Google Distributed Cloud. Esta solución gestionada permite a las organizaciones implementar modelos de IA avanzados en sus propios centros de datos, garantizando la protección de los datos y el cumplimiento de las normativas vigentes.

Optimización del rendimiento de inferencia para Gemini y Gemma

Los modelos Gemini, diseñados para tareas complejas de razonamiento, codificación y comprensión multimodal, han sido optimizados para ejecutarse de manera eficiente en las GPU de NVIDIA, especialmente dentro de la plataforma Vertex AI de Google Cloud. Además, la familia de modelos abiertos y ligeros Gemma ha sido adaptada para la inferencia utilizando la biblioteca NVIDIA TensorRT-LLM, y se espera que estén disponibles como microservicios NVIDIA NIM de fácil implementación.

Contribuciones al ecosistema de desarrolladores

La colaboración entre NVIDIA y Google también se extiende al apoyo de la comunidad de desarrolladores, mediante la optimización de marcos de código abierto como JAX, OpenXLA, MaxText y llm-d. Estas mejoras fundamentales respaldan directamente el servicio de los modelos Gemini y la familia Gemma, facilitando el desarrollo y la implementación de soluciones de IA avanzadas.

Compromiso con la privacidad y la seguridad

La combinación de la arquitectura Blackwell de NVIDIA y las capacidades de computación confidencial permite garantizar que las solicitudes de los usuarios y los datos de ajuste fino permanezcan protegidos. Esto asegura que las organizaciones puedan innovar con los modelos Gemini manteniendo el control total sobre su información, cumpliendo con los más altos estándares de privacidad y cumplimiento.

Ampliando el alcance de la IA agentica

Con la integración de las plataformas de NVIDIA y Google, más organizaciones que nunca podrán acceder a la próxima generación de IA agentica. Esta colaboración no solo mejora el rendimiento y la eficiencia de las aplicaciones de IA, sino que también democratiza el acceso a tecnologías avanzadas, permitiendo a una amplia gama de sectores beneficiarse de las capacidades de la IA moderna.

El artículo puede contener imprecisiones y/o errores, consulte la web del fabricante para obtener la principal información.

Arquitectura de alto rendimiento para IA

El diseño de AI POD de ASUS incorpora racks de alta densidad, compatibles con sistemas de refrigeración líquida o por aire, y equipados con las plataformas NVIDIA GB200/300 NVL72. Estas configuraciones permiten escalar eficientemente las operaciones de IA, soportando hasta 576 GPUs en ocho racks con refrigeración líquida, o 72 GPUs en un solo rack con refrigeración por aire. La integración de redes NVIDIA Quantum InfiniBand o Spectrum-X Ethernet garantiza una conectividad de alta velocidad y baja latencia, esencial para aplicaciones de IA de gran escala.

Flexibilidad en el diseño

ASUS ha adoptado arquitecturas flexibles basadas en los diseños NVIDIA MGX y HGX, incorporando procesadores Intel Xeon 6 y SuperNICs NVIDIA ConnectX-8. Esta combinación permite manejar cargas de trabajo avanzadas de IA y renderizado 3D complejo, ofreciendo soluciones adaptables a diversas necesidades empresariales.

«El diseño validado de la Enterprise AI Factory de NVIDIA con el AI POD de ASUS proporciona orientación para desarrollar, implementar y gestionar cargas de trabajo de IA agentica, IA física y HPC en la plataforma Blackwell de NVIDIA en instalaciones locales», destaca el comunicado de prensa.

Ecosistema completo para IA

El AI POD de ASUS no solo se centra en el hardware, sino que también ofrece un ecosistema completo para la implementación de IA. Esto incluye integración con NVIDIA Omniverse, almacenamiento de alta velocidad y soporte para IA agentica en tiempo real. Estas características permiten a las empresas desplegar soluciones de IA de manera eficiente y con menor riesgo, acelerando el tiempo de obtención de valor.

Preparado para cargas de trabajo intensivas

Los racks compatibles con NVIDIA MGX de ASUS, como la serie ESC8000, están diseñados para manejar modelos de lenguaje de gran tamaño (LLMs) y cargas de trabajo inmersivas. Equipados con procesadores Intel Xeon 6 y GPUs RTX PRO 6000 Blackwell Server Edition, estos sistemas ofrecen un rendimiento excepcional y escalabilidad para las demandas actuales de IA.

Además, las arquitecturas de referencia NVIDIA HGX optimizadas por ASUS proporcionan eficiencia térmica y densidad de GPU sin precedentes, ideales para el ajuste fino de IA, inferencia de LLM y entrenamiento. Estas soluciones están disponibles en configuraciones con refrigeración líquida o por aire, asegurando un rendimiento consistente y reducción del costo total de propiedad.

Infraestructura para la IA del futuro

El compromiso de ASUS con la innovación en IA se refleja en su enfoque en la IA agentica, que permite decisiones autónomas y aprendizaje en tiempo real. La infraestructura de ASUS está diseñada para soportar agentes de IA escalables en aplicaciones empresariales, facilitando la transformación digital en diversas industrias.

«Como líder global en soluciones de infraestructura de IA, ASUS proporciona excelencia en centros de datos con opciones de refrigeración por aire y líquida, ofreciendo un rendimiento, eficiencia y confiabilidad incomparables», señala el comunicado.

La colaboración entre ASUS y NVIDIA en el desarrollo del diseño avanzado de AI POD representa un paso importante hacia la implementación efectiva de soluciones de IA en el entorno empresarial. Con arquitecturas flexibles, un ecosistema completo y preparación para cargas de trabajo intensivas, estas soluciones están diseñadas para satisfacer las crecientes demandas de la inteligencia artificial en el mundo actual.

El artículo puede contener imprecisiones y/o errores, consulte la web del fabricante para obtener la principal información