La Inferencia de IA como Motor de Productividad

Cuando solicitamos a una IA generativa que responda a una pregunta o cree una imagen, los modelos de lenguaje generan «tokens» de inteligencia que se combinan para proporcionar el resultado. Este proceso se conoce como inferencia de IA.

«Las fábricas de IA generan tokens de IA. Su producto es la inteligencia. En la era de la IA, esta inteligencia aumenta los ingresos y las ganancias.» — Kevin Acocella, NVIDIA

Equilibrando Velocidad y Rendimiento

Las fábricas de IA deben equilibrar dos demandas competitivas para ofrecer una inferencia óptima: la velocidad por usuario y el rendimiento general del sistema. Pueden mejorar ambos factores escalando a más FLOPS y mayor ancho de banda, agrupando y procesando cargas de trabajo de IA para maximizar la productividad.

Limitaciones Energéticas y Soluciones Innovadoras

En una fábrica de IA de 1 megavatio, un sistema NVIDIA Hopper con ocho GPU H100 conectadas por Infiniband genera 100 tokens por segundo (TPS) por usuario en el mejor de los casos, o 2.5 millones de TPS en volumen máximo. Sin embargo, el trabajo real ocurre en el espacio intermedio, donde cada punto a lo largo de la curva representa lotes de cargas de trabajo para que la fábrica de IA procese, cada uno con su propia combinación de demandas de rendimiento.

«Las fábricas de IA son las máquinas de la próxima revolución industrial.» — Kevin Acocella, NVIDIA

Avances en Arquitectura y Software

La arquitectura NVIDIA Blackwell puede hacer mucho más con 1 megavatio que la arquitectura Hopper, y hay más por venir. Optimizar las pilas de software y hardware significa que Blackwell se vuelve más rápido y eficiente con el tiempo.

Blackwell recibe otro impulso cuando los desarrolladores optimizan las cargas de trabajo de la fábrica de IA de forma autónoma con NVIDIA Dynamo, el nuevo sistema operativo para fábricas de IA. Dynamo divide las tareas de inferencia en componentes más pequeños, enrutando y re-enrutando dinámicamente las cargas de trabajo a los recursos de cómputo más óptimos disponibles en ese momento.

El artículo puede contener imprecisiones y/o errores, consulte la web del fabricante para obtener la principal información.

Hace más de un siglo, Henry Ford revolucionó la industria automotriz con la producción en masa de vehículos. Hoy, en un contexto tecnológico distinto, Dell Technologies y NVIDIA están colaborando para construir las «fábricas de inteligencia», centros de datos avanzados diseñados para satisfacer la creciente demanda global de soluciones de inteligencia artificial (IA).

La Dell AI Factory con NVIDIA: una solución integral

En el evento Dell Technologies World, Michael Dell, presidente y director ejecutivo de Dell Technologies, afirmó: «Estamos en una misión para llevar la IA a millones de clientes en todo el mundo». La Dell AI Factory con NVIDIA permite a las empresas gestionar todo el ciclo de vida de la IA, desde el entrenamiento hasta la implementación, a cualquier escala.

Potencia sin precedentes con la plataforma Blackwell

Los servidores de última generación de Dell, equipados con la plataforma NVIDIA Blackwell, ofrecen hasta 50 veces más rendimiento en inferencia de razonamiento de IA y una mejora de 5 veces en el rendimiento en comparación con la plataforma Hopper. Estas capacidades permiten a los clientes desarrollar aplicaciones de IA que abordan desafíos globales, desde la prevención de enfermedades hasta la manufactura avanzada.

Producción eficiente y escalable

Dell ha optimizado sus instalaciones para ensamblar servidores con la plataforma NVIDIA GB200 de manera eficiente. En una de sus fábricas en EE. UU., pueden ensamblar, probar y enviar servidores en un plazo de 24 horas. Esta capacidad ha permitido a Dell desplegar 100,000 GPUs de NVIDIA para uno de sus principales clientes en solo seis semanas.

Infraestructura de centros de datos de próxima generación

Los servidores ensamblados están destinados a centros de datos de última generación que requieren una infraestructura compleja, incluyendo miles de millas de cables de red y sistemas de enfriamiento avanzados capaces de circular 100,000 galones de agua por minuto.

Expansión global de las fábricas de IA

La demanda de estas «fábricas de inteligencia» está en aumento. La Unión Europea ha anunciado planes para establecer siete fábricas de IA, y países como India, Japón, Arabia Saudita, Emiratos Árabes Unidos y Noruega también están desarrollando sus propias instalaciones.

Impacto en la industria y el futuro de la IA

La colaboración entre Dell y NVIDIA está estableciendo un nuevo estándar en la construcción y operación de infraestructuras de IA. Al combinar hardware de alto rendimiento con soluciones integrales, están facilitando la adopción de la IA en diversas industrias, acelerando la innovación y abordando desafíos complejos a nivel global.

El artículo puede contener imprecisiones y/o errores, consulte la web del fabricante para obtener la principal información.

OVHcloud, líder europeo en servicios de computación en la nube, ha anunciado la apertura de su primer centro de datos en Italia, ubicado en la región de Milán. Esta instalación marca el 44º centro de datos de la compañía a nivel mundial y el 26º en Europa, consolidando su presencia en el continente y subrayando su compromiso con la expansión internacional.

La elección de Milán no es casualidad. La ciudad es un núcleo económico y tecnológico en el sur de Europa, lo que la convierte en una ubicación estratégica para OVHcloud. Este nuevo centro de datos no solo amplía la infraestructura de la empresa, sino que también permite la implementación de una nueva región de disponibilidad 3-AZ (tres zonas de disponibilidad) fuera de Francia, ofreciendo a los clientes mayor resiliencia y opciones de recuperación ante desastres.

Compromiso con la soberanía digital y el cumplimiento normativo

La expansión de OVHcloud en Italia refuerza su misión de proporcionar soluciones en la nube que respeten la soberanía digital y cumplan con las regulaciones locales. Al establecer un centro de datos en territorio italiano, la empresa asegura que los datos de los clientes pueden residir dentro del país, facilitando el cumplimiento de normativas como el Reglamento General de Protección de Datos (GDPR) de la Unión Europea.

Este enfoque es especialmente relevante para organizaciones públicas y privadas que manejan información sensible y buscan proveedores de servicios en la nube que ofrezcan transparencia, seguridad y control sobre la ubicación de sus datos.

Beneficios para clientes y el ecosistema tecnológico italiano

La presencia de OVHcloud en Italia ofrece múltiples ventajas para los clientes locales:

• Reducción de latencia: Al estar físicamente más cerca de los usuarios finales, las aplicaciones y servicios alojados en el nuevo centro de datos experimentarán tiempos de respuesta más rápidos.

• Mejora en la continuidad del negocio: La nueva región 3-AZ permite a las empresas diseñar arquitecturas de alta disponibilidad y planes de recuperación ante desastres más robustos.

• Cumplimiento regulatorio: Las organizaciones pueden alojar sus datos dentro de las fronteras italianas, facilitando el cumplimiento de leyes y regulaciones locales.

• Impulso a la innovación local: La infraestructura de OVHcloud puede servir como plataforma para startups y empresas tecnológicas italianas, fomentando el desarrollo de nuevas soluciones y servicios digitales.

Un paso más hacia una nube europea independiente

La apertura del centro de datos en Milán es parte de la estrategia de OVHcloud para fortalecer una infraestructura de nube europea independiente y competitiva. En un contexto donde la soberanía digital y la protección de datos son cada vez más importantes, la empresa se posiciona como una alternativa a los proveedores de nube globales, ofreciendo soluciones que priorizan la transparencia, la seguridad y el cumplimiento normativo.

«Estamos muy contentos de anunciar la apertura de nuestro 44º centro de datos en el mundo y el primero en Italia. Esta extensión de nuestra infraestructura en la nube forma parte de una estrategia más amplia de despliegue en Europa e internacionalmente», afirmó Benjamin Revcolevschi, CEO de OVHcloud.

Perspectivas futuras y compromiso continuo

Con esta expansión, OVHcloud reafirma su compromiso de apoyar la transformación digital de organizaciones en Europa y en todo el mundo. La empresa continúa invirtiendo en infraestructura y servicios que permitan a sus clientes aprovechar al máximo las oportunidades que ofrece la computación en la nube, sin comprometer la seguridad ni el control sobre sus datos.

La inauguración del centro de datos en Italia es un hito significativo en el camino de OVHcloud hacia una nube más soberana, segura y alineada con los valores europeos.

El artículo puede contener imprecisiones y/o errores, consulte la web del proveedor para obtener la principal información.