Dell Technologies colabora com Together AI e Nvidia para impulsionar a IA

A Together AI está se unindo à Dell Technologies para dimensionar sua plataforma de Nuvem de IA. Essa colaboração integrará um sistema de alto desempenho de ponta a ponta com computação e rede avançadas para impulsionar a escalabilidade e a eficiência para empresas, startups e pesquisadores que constroem o futuro da Inteligência Artificial.

Essa colaboração aproveita a Dell AI Factory com a Nvidia, fornecida como unidades escaláveis e refrigeradas a líquido otimizadas para tarefas complexas de IA e HPC. Racks Dell IR7000 totalmente integrados com computação acelerada Nvidia Blackwell no núcleo, com os serviços profissionais da Dell apoiando cada etapa da implementação para garantir uma entrega rápida e contínua.

“Nossas equipes trabalharam lado a lado com a Together AI e a Nvidia para projetar e fornecer rapidamente sistemas de IA que fornecerão os recursos necessários para impulsionar a inovação em IA”, disse Arthur Lewis, presidente do Grupo de Soluções de Infraestrutura da Dell Technologies. “Juntas, a plataforma de Nuvem da Together AI, sustentada pela infraestrutura da Dell, definirão o padrão para IA premium, escalável e eficiente”, afirmou.

“O trabalho que estamos fazendo com a Dell Technologies e a Nvidia ressalta nosso compromisso em acelerar avanços escaláveis e orientados por IA em todo o mundo”, disse Vipul Ved Prakash, CEO da Together AI. “Nossa plataforma de Nuvem, combinada com o desempenho e a confiabilidade da infraestrutura da Dell com tecnologia Nvidia, fornecerá aos clientes a velocidade e a flexibilidade necessárias para a nova onda de modelos de raciocínio de código aberto e a próxima era de superinteligência”, comentou.

Infraestrutura de IA de alto desempenho

Os engenheiros da Dell e da Together AI trabalharam em estreita colaboração para criar um cluster de IA otimizado capaz de executar tarefas complexas de IA e HPC. Os racks Dell IR7000 totalmente integrados apresentam servidores Dell PowerEdge XE9712, equipados com a plataforma Nvidia GB200 NVL72, e servidores PowerEdge XE9680, com plataforma Nvidia HGX B200.

O cluster também aproveita o Nvidia NVLinkTM e Nvidia Quantum-2 InfiniBand para permitir comunicação de alta velocidade e baixa latência entre GPUs, garantindo transferência de dados eficiente para treinamento de IA em larga escala e cargas de trabalho de inferência. Essa arquitetura minimiza gargalos, acelera a execução de modelos distribuídos e permite o dimensionamento contínuo em vários nós de GPU.

Treinamento rápido e desempenho de inferência

A infraestrutura da Together AI, acelerada pela Dell AI Factory com a Nvidia, sustenta os clusters de GPU Together e a plataforma Together Inference & Fine-Tuning para treinamento rápido e desempenho de inferência. A Together AI ajuda as empresas a implementar modelos avançados de raciocínio que aproveitam a memória de alta largura de banda da plataforma acelerada Nvidia Blackwell, NVLink para eficiência de várias GPUs e Tensor Cores de precisão mista, essenciais para otimizar as arquiteturas Mix of Experts comumente usadas por modelos de raciocínio. Com as otimizações apoiadas por pesquisas da Together AI, incluindo FlashAttention-3, Decodificação Especulativa e Mistura de Agentes, as empresas podem acelerar o tempo de lançamento no mercado de aplicativos de IA, mantendo alta eficiência operacional e confiabilidade.