Benchmark atesta desempenho dos servidores Inspur em IA

A MLCommons, um consórcio de engenharia aberta referência no mercado, anunciou os resultados do MLPerf Training v1.0, pacote de desempenho para treinamento de Machine Learning (ML) da organização. A Inspur liderou a lista de desempenho de nó único em quatro das oito tarefas na divisão Fechada. O MLPerf Training v1.0 é o benchmark líder da indústria para desempenho de IA, desenvolvido em 2018. Inspur é membro fundador da MLCommons, ao lado de mais de 50 outras organizações e empresas em todo o campo de Inteligência Artificial. Essa avaliação mede o tempo que leva para treinar modelos de ML para uma meta de qualidade padrão em uma variedade de tarefas, incluindo classificação de imagens (ResNet), segmentação de imagens (U-Net3D), detecção de objetos (peso leve, SSD), Detecção de Objetos (Peso Pesado, Máscara R-CNN), Reconhecimento de Fala (RNN-T), PNL (BERT), Recomendação (DLRM) e Aprendizado por Reforço (MiniGo), cada um com as divisões de desempenho Fechado e Aberto.

A Inspur ficou em primeiro lugar nas tarefas de treinamento de Classificação de Imagem (ResNet), NLP (BERT), Detecção de Objeto (SSD) e Recomendação (DLRM) na divisão Fechada, com Inspur NF5688M6 alcançando o melhor desempenho de nó único em ResNet, DLRM e SSD e NF5488A5 em BERT.

Com sua capacidade de otimizar software e hardware, a Inspur melhorou drasticamente o desempenho de nó único do benchmark de treinamento MLPerf. Em comparação com seu desempenho no teste de benchmark MLPerf Training v0.7 em 2020, a Inspur estabeleceu um recorde no desempenho de nó único de classificação de imagens, PNL, detecção de objetos e recomendação, reduzindo o tempo de treinamento de cada modelo em 17,95%, 56,85%, 18,61% e 42,64%, respectivamente, demonstrando claramente o valor do uso de servidores de IA de nível superior para melhorar a eficiência do treinamento do modelo de IA.

Otimização

Segundo informações, o sucesso da Inspur no benchmark MLPerf reside na força do design do sistema e na otimização full-stack como parte da inovação no sistema de computação IA. Em termos de hardware, a Inspur fez otimizações abrangentes e calibrações aprofundadas para a transmissão de dados entre os nós NUMA e GPU para garantir I/O sem bloqueio no treinamento. Além disso, a Inspur desenvolveu um sistema avançado de resfriamento baseado em placa de refrigeração líquida para a GPU A100 a 500W TDP para garantir que a GPU possa funcionar corretamente em plena capacidade, aumentando significativamente o desempenho da computação IA.

Durante o teste de benchmark MLPerf Training v0.7 em 2020, a Inspur fez uma otimização para impulsionar a convergência do ResNet: na ImageNet, a solução atingiu 75,9% da precisão desejada com apenas 85% de iterações, melhorando a eficiência do treinamento em 15%. Desde então, a otimização foi adotada por membros da comunidade e amplamente utilizada no benchmark MLPerf Training v1.0 – um motivo importante para a melhoria significativa na ResNet este ano.

Desde 2020, a Inspur participou de quatro benchmarks MLPerf – treinamento v0.7, Inferência v0.7, Inferência v1.0 e treinamento v1.0. No MLPerf Inference v1.0 deste ano, o Inspur estabeleceu 11 registros na divisão Fechada do Data Center e 7 registros na divisão Fechada de Borda, tornando-se a empresa com o maior número de resultados principais.

Como uma das principais empresas em computação de IA, a Inspur está comprometida com P&D e inovação de computação de IA, plataformas de algoritmos e baseadas em recursos. Ela também trabalha com outras empresas líderes do setor para promover a industrialização da IA ​​e o desenvolvimento de indústrias movidas a IA por meio de seu ecossistema de tecnologia “Meta-Brain”.

www.inspursystems.com