Infraestructura de IA semipersonalizada con un rendimiento de escalado de IA probado en el sector.
Descripción
NVIDIA NVLink™ Fusion ofrece un rendimiento de escalado y ampliación de IA líder en el sector con la tecnología NVIDIA más ASIC o CPU semipersonalizados. Con un robusto ecosistema de socios NVIDIA, los hiperescaladores pueden construir una infraestructura de IA híbrida ASIC con tecnologías NVIDIA NVLink y tecnologías de fábricas de IA, que incluyen arquitectura a escala de bastidores, GPU NVIDIA o CPU NVIDIA Grace™, conmutadores de óptica empaquetada conjuntamente (CPO), SuperNIC ConnectX®, DPU BlueField® y Mission Control.
Ventajas
El aprovechamiento de todo el potencial de las fábricas de IA depende de la necesidad de una comunicación rápida y sin fisuras entre todos los aceleradores. La interconexión NVIDIA NVLink de 1,8 TB/s puede escalar hasta 72 aceleradores para liberar todo el rendimiento de la IA.
Los socios del ecosistema NVIDIA, que incluyen diseñadores de ASIC, proveedores de CPU y propiedad intelectual, y los OEM/ODM, permiten a los hiperescaladores implementar silicio personalizado con NVIDIA NVLink Fusion con el tiempo de comercialización más rápido.
Dado que los hiperescaladores ya implementan soluciones de bastidores NVIDIA completas, NVLink Fusion hace posible una oferta de silicio heterogénea mientras se estandariza en torno a un diseño de bastidor común, lo que acelera la implementación de fábricas de IA y simplifica la gestión.
NVIDIA mantiene un ritmo de hoja de ruta anual que garantiza el máximo rendimiento de NVLink y un rendimiento de arquitectura de bastidores completos para los usuarios de NVLink Fusion.
Plataforma
NVIDIA NVLink y NVLink Switch Chip permiten 130 TB/s de ancho de banda en un dominio NVLink de 72 aceleradores (NVL72) y ofrecen una eficiencia en el ancho de banda cuatro veces superior con compatibilidad con el Protocolo de agregación y reducción jerárquicas escalables de NVIDIA (SHARP)™ FP8.
NVIDIA NVLink-C2C amplía la tecnología NVLink líder en el sector a una interconexión de chip a chip. Esto permite la creación de una nueva clase de productos integrados con socios de NVIDIA, creados a través de chiplets, que permite a las GPU o CPU de NVIDIA tener una conexión coherente de gran ancho de banda y silicio personalizado.
Más información sobre las capacidades de NVIDIA NVLink Fusion.