NVIDIA DGX B200
A base para sua fábrica de IA.
Desempenho Revolucionário Apoiado por Inovação Evolutiva
A NVIDIA DGX B200 é uma plataforma de IA unificada para pipelines do desenvolvimento à implantação para empresas de qualquer tamanho em qualquer fase de sua jornada de IA. Equipada com oito GPUs NVIDIA Blackwell interconectadas com NVIDIA® NVLink™ de quinta geração, a NVIDIA DGX B200 oferece 3 vezes o desempenho de treinamento e 15 vezes o desempenho de inferência dos sistemas da geração anterior. Aproveitando a arquitetura NVIDIA Blackwell, a DGX B200 consegue lidar com diversas cargas de trabalho, incluindo grandes modelos de linguagem, sistemas de recomendação e chatbots, tornando-a ideal para empresas que buscam acelerar sua transformação de IA.
Benefícios
Uma Fábrica de IA Unificada
Desempenho
Desempenho de Última Geração com a Tecnologia NVIDIA DGX B200
Inferência de Grandes Modelos de Linguagem em Tempo Real
Desempenho projetado sujeito a alterações. Latência de token para token (TTL) = 50 milissegundos (ms) em tempo real, primeira latência de token (FTL) = 5s, comprimento da sequência de entrada = 32.768, comprimento da sequência de saída = 1.028, comparação de desempenho por GPU entre 8 GPUs NVIDIA HGX™ H100 de oito vias com resfriamento a ar versus 1 HGX B200 de oito vias com resfriamento a ar.
Desempenho de Treinamento de IA Potencializado
Desempenho projetado sujeito a alterações. Escala de 32.768 GPUs, 4.096 clusters com resfriamento a ar NVIDIA DGX H100 de oito vias: Rede 400G IB, 4.096 clusters com resfriamento a ar NVIDIA DGX B200 de 8 vias: Rede 400G IB.
Especificações
Especificações da NVIDIA DGX B200
| GPU | 8 GPUs NVIDIA Blackwell |
| Memória de GPU | Memória total de GPU de 1.440GB |
| Desempenho | 72 petaFLOPS de treinamento e 144 petaFLOPS de inferência |
| Consumo de Energia | ~14,3kW máximo |
| CPU | 2 Processadores Intel® Xeon® Platinum 8570, 112 núcleos no total, 2,1GHz (Base), 4GHz (Boost Máximo) |
| Memória do Sistema | Até 4TB |
| Redes | 4 portas OSFP que atendem a 8 portas individuais NVIDIA ConnectX-7 VPI
|
| Rede de Gerenciamento | NIC integrado de 10Gb/s com RJ45 . Controlador de gerenciamento de placa base (BMC) de host Ethernet de 100Gb/s com portas duplas. |
| Armazenamento | Sistema Operacional: 2 NVMe M.2 de 1,9TB Armazenamento interno: 8 NVMe U.2 de 3,84TB |
| Software | NVIDIA AI Enterprise: Software de IA Otimizado NVIDIA Base Command™: Orquestração, Agendamento e Gerenciamento de Clusters NVIDIA DGX OS / Ubuntu: Sistema Operacional. |
| Unidades de Rack (RU) | 10 RU |
| Dimensões do Sistema | Altura: 17,5 polegadas (444mm) Largura: 19,0 polegadas (482,2mm) Comprimento: 35,3 polegadas (897,1mm |
| Temperatura de Operação | 5 a 30°C (41 a 86°F) |
| Suporte Empresarial | Suporte Empresarial Padrão de três anos para hardware e software. Acesso 24h/dia ao portal e Suporte Empresarial. Suporte ao vivo por agentes durante o horário comercial local. |
Recursos
Oferta de Fábricas de IA para Todas as Empresas
NVIDIA DGX SuperPOD
O NVIDIA DGX SuperPOD™ é uma solução de infraestrutura de data center com IA pronta para uso que oferece desempenho excepcional para todos os usuários e cargas de trabalho. Configurável com qualquer sistema NVIDIA DGX, o DGX SuperPOD fornece infraestrutura acelerada de nível de liderança com desempenho escalável para as workloads de treinamento e inferência de IA mais exigentes, com resultados comprovados do setor, permitindo que a equipe de IT ofereça desempenho sem compromissos.
Apresentando o NVIDIA Mission Control
O NVIDIA Mission Control simplifica as operações de IA, desde cargas de trabalho até a infraestrutura, com experiência de nível mundial entregue como software. Ele impulsiona os data centers NVIDIA Blackwell, levando agilidade instantânea para inferência e treinamento, além de fornecer inteligência do stack completo para a resiliência da infraestrutura. Com ele, qualquer empresa pode executar IA com eficiência de hiperescala, simplificando e acelerando sua experimentação com IA.
Maximize o Valor da Plataforma NVIDIA DGX
Os Serviços Empresariais da NVIDIA fornecem suporte, formação e serviços profissionais para a sua infraestrutura DGX. Com os especialistas da NVIDIA disponíveis em cada etapa da sua jornada de IA, os Serviços Empresariais podem ajudá-lo a colocar seus projetos em funcionamento de forma rápida e bem-sucedida
Receba uma Oferta Exclusiva de Treinamento como Cliente NVIDIA DGX
Saiba como criar inovações de ponta com IA mais rapidamente com este treinamento técnico especial oferecido exclusivamente para clientes DGX pelos especialistas em IA do Deep Learning Institute (DLI) da NVIDIA.
Comece Agora