NVIDIA lança plataforma Ethernet acelerada para IA generativa em hiperescala
Postado por Redação em 30/05/2023 em Notícias TechCompartilhar:
A nova plataforma de rede NVIDIA Spectrum-X combina DPUs NVIDIA Spectrum-4, BlueField-3 e software de aceleração; provedores de serviços de cloud líderes mundiais adotam plataforma para expandir serviços de IA generativa
Imagem: divulgação web
A NVIDIA anuncia a NVIDIA Spectrum-X™, uma plataforma de rede acelerada projetada para melhorar o desempenho e a eficiência das clouds de IA baseadas em Ethernet.
A NVIDIA Spectrum-X™ foi desenvolvida com base em inovações de rede impulsionadas pela forte união do switch Ethernet NVIDIA Spectrum-4 com a DPU NVIDIA BlueField®-3, obtendo desempenho geral de IA e eficiência de energia 1,7 vezes melhor, além de desempenho previsível e consistente em ambientes multilocatários. A Spectrum-X é “turbinada” pelo software de aceleração e pelos kits de desenvolvimento de software (SDKs) da NVIDIA, permitindo que os desenvolvedores criem aplicações de IA definidos por software e nativos do cloud.
A entrega de recursos de ponta a ponta reduz os tempos de execução de modelos de IA generativas baseados em transformadores maciços. Isso permite que engenheiros de rede, cientistas de dados de IA e provedores de serviços de cloud melhorem os resultados e tomem decisões informadas com mais rapidez.
Os principais hiperescaladores do mundo estão adotando o NVIDIA Spectrum-X, incluindo os inovadores líderes do setor de cloud.
“Essa plataforma colabora para a expansão dos serviços de IA generativa, cada vez mais sendo utilizados em diversos setores pelas companhias. Essa ferramenta gera mais eficiência e melhora o desempenho para executar essas aplicações", pontua Marcio Aguiar, diretor da divisão Enterprise da NVIDIA para América Latina.
Você conhece o perfil do Portal ERP no Instagram? Clique aqui e participe. Nos acompanhe também no LinkedIn.
Como modelo e banco de testes para designs de referência da NVIDIA Spectrum-X, a NVIDIA está construindo o Israel-1, um supercomputador de IA generativa em hiperescala a ser implantado em seu data center israelense, em servidores Dell PowerEdge XE9680 baseados na plataforma NVIDIA HGX™ H100 de oito GPUs, DPUs BlueField-3 e switches Spectrum-4.
“Tecnologias transformadoras, como a IA generativa, estão forçando todas as empresas a ultrapassarem os limites do desempenho do data center em busca de vantagem competitiva”, afirma Gilad Shainer, vice-presidente sênior de redes da NVIDIA. “A NVIDIA Spectrum-X é uma nova classe de rede Ethernet que remove barreiras para cargas de trabalho de IA de próxima geração que têm o potencial de transformar setores inteiros.”
A plataforma de rede NVIDIA Spectrum-X é altamente versátil e pode ser usada em várias aplicações de IA. Ela usa Ethernet totalmente baseada em padrões e é interoperável com pilhas baseadas em Ethernet.
A plataforma começa com o Spectrum-4, o primeiro switch Ethernet de 51 TB/s do mundo construído especificamente para redes de IA. As extensões RoCE avançadas funcionam em conjunto nos switches Spectrum-4, DPUs BlueField-3 e óptica LinkX para criar uma rede 400GbE de ponta a ponta otimizada para clouds de IA.
A NVIDIA Spectrum-X aprimora a multilocação com isolamento de desempenho para garantir que as cargas de trabalho de IA dos locatários tenham um desempenho ideal e consistente. Ele também oferece melhor visibilidade de desempenho de IA, pois pode identificar gargalos de desempenho, além de apresentar validação de malha totalmente automatizada.
O software de aceleração da Spectrum-X inclui poderosos SDKs da NVIDIA, como Cumulus Linux, SONiC puro e NetQ — que juntos possibilitam o desempenho extremo da plataforma de rede. Ele também inclui a estrutura de software NVIDIA DOCA™, que está no centro das DPUs BlueField.
O NVIDIA Spectrum-X permite uma escala sem precedentes de 256 portas de 200 Gb/s conectadas por um único switch ou 16 mil portas em uma topologia leaf-spine de duas camadas para dar suporte ao crescimento e expansão das clouds de IA mantendo altos níveis de desempenho e minimizando a latência da rede.
Saiba mais:
