Nvidia lança plataforma Ethernet acelerada para IA generativa em hiperescala

A Nvidia apresentou o Nvidia Spectrum-X, uma plataforma de rede acelerada projetada para melhorar o desempenho e a eficiência das Nuvens de IA baseadas em Ethernet. O Nvidia Spectrum-X é construído sobre inovações de rede alimentadas pelo forte acoplamento do switch Ethernet Nvidia Spectrum-4 com o Nvidia BlueField-3 DPU, alcançando desempenho 1,7 vezes melhor de IA e eficiência de energia, juntamente com desempenho previsível e consistente em multiambientes do inquilino. O Spectrum-X é sobrecarregado pelo software de aceleração da Nvidia e kits de desenvolvimento de software (SDKs), permitindo que os desenvolvedores criem aplicativos de IA nativos da Nuvem definidos por software.

A entrega de recursos de ponta a ponta reduz os tempos de execução de modelos de IA generativos baseados em transformadores maciços. Isso permite que engenheiros de rede, cientistas de dados de IA e provedores de serviços em Nuvem melhorem os resultados e tomem decisões informadas com mais rapidez. Os principais hiperescaladores do mundo estão adotando o Nvidia Spectrum-X, incluindo inovadores de Nuvem líderes do setor.

Como modelo e teste para projetos de referência do Nvidia Spectrum-X, a empresa está construindo o Israel-1, um supercomputador de IA generativa em hiperescala a ser implementado em seu Data Center israelense em servidores Dell PowerEdge XE9680 baseados na plataforma de 8 GPUs Nvidia HGX H100, DPUs BlueField-3 e switches Spectrum-4.

“Tecnologias transformadoras, como IA generativa, estão forçando todas as empresas a ultrapassar os limites do desempenho do Data Center em busca de vantagem competitiva”, disse Gilad Shainer, vice-presidente sênior de Redes da Nvidia. “O Spectrum-X é uma nova classe de rede Ethernet que remove barreiras para cargas de trabalho de IA de próxima geração que têm o potencial de transformar setores inteiros”, afirmou.

A plataforma de rede Nvidia Spectrum-X é altamente versátil e pode ser usada em vários aplicativos de IA. Ele usa Ethernet totalmente baseada em padrões e é interoperável com pilhas baseadas em Ethernet.

A plataforma começa com o Spectrum-4, o primeiro switch Ethernet de 51 TB/s do mundo construído especificamente para redes AI. As extensões RoCE avançadas funcionam em conjunto nos switches Spectrum-4, DPUs BlueField-3 e óptica Nvidia LinkX para criar uma rede de 400 GbE de ponta a ponta otimizada para Nuvens com IA.

O Spectrum-X aprimora a multilocação com isolamento de desempenho para garantir que as cargas de trabalho de IA dos locatários tenham um desempenho ideal e consistente. Ele também oferece melhor visibilidade de desempenho de IA, pois pode identificar gargalos de desempenho e apresenta validação de malha totalmente automatizada.

O software de aceleração Spectrum-X inclui poderosos SDKs da Nvidia, como Cumulus Linux, SONiC puro e NetQ – que juntos permitem o desempenho extremo da plataforma de rede. Ele também inclui a estrutura de software Nvidia DOCA, que está no centro das DPUs BlueField.

O Nvidia Spectrum-X permite uma escala sem precedentes de 256 portas de 200 Gb/s conectadas por um único switch ou 16 mil portas em uma topologia leaf-spine de duas camadas para dar suporte ao crescimento e expansão de nuvens AI, mantendo altos níveis de desempenho e minimizando a latência da rede.

As empresas que atualmente oferecem o Nvidia Spectrum-X incluem Dell Technologies, Lenovo e Supermicro.

Serviço
www.nvidia.com