Rapt AI e AMD otimizam cargas de IA e a inferência nas GPUs AMD Instinct

A Rapt AI, fornecedora de automação de cargas de trabalho de IA com o uso de Inteligência Artificial para as GPUs e aceleradores da tecnologia, anunciou uma colaboração estratégica com a AMD para redefinir o gerenciamento
de infraestrutura inteligente. Essa aliança visa melhorar a gestão e desempenho das cargas de trabalho de inferência e treinamento de IA em GPUs AMD InstinctTM, oferecendo aos clientes uma solução escalável e econômica para a implantação de aplicações da tecnologia.

À medida que a adoção da IA cresce, as organizações enfrentam desafios relacionados à alocação de recursos, gargalos de desempenho e o gerenciamento complexo de GPUs. Ao integrar a plataforma inteligente de automação de cargas de trabalho da Rapt com as GPUs AMD Instinct MI300X, MI325X e a próxima série MI350, a colaboração fornece uma solução escalável, de alto desempenho e com custo total da posse (TCO) otimizado, permitindo que os clientes maximizem a eficiência de inferência e treinamento de IA em ambientes on-premises e multicloud.

mks_pullquote align=”right” width=”300″ size=”24″ bg_color=”” txt_color=”#1e73be”] A solução conjunta otimiza de forma inteligente a densidade de jobs e a alocação de recursos nas GPUs AMD Instinct, resultando em melhor desempenho de inferência e maior escalabilidade para implementações de IA em produção [/mks_pullquote]

Principais benefícios da colaboração entre Rapt e AMD
Ajuda a reduzir custos e maximizar a utilização de GPUs
 As GPUs AMD Instinct, com capacidade1,2 de memória líder no setor, combinadas com a otimização inteligente de recursos da Rapt, ajudam a garantir a máxima utilização das GPUs para cargas de trabalho de IA, contribuindo para a redução do custo total da posse (TCO).

Implementação fluida de IA em ambientes locais e multicloud
 A plataforma da Rapt simplifica o gerenciamento de GPUs, eliminando a necessidade de analistas de Dados
perderem tempo valioso com configurações de infraestrutura por tentativa e erro. Ao otimizar automaticamente a alocação de recursos para cargas de trabalho específicas, permite que as equipes se concentrem na inovação, e não na infraestrutura. Oferece suporte fluido a uma variedade de ambientes GPU (AMD e outros, na Nuvem, on-
premises ou ambos) por meio de uma única instância, garantindo a máxima flexibilidade da infraestrutura.

Melhoria no desempenho de inferência e escalabilidade
 A solução conjunta otimiza de forma inteligente a densidade de jobs e a alocação de recursos nas GPUs AMD Instinct, resultando em melhor desempenho de inferência e maior escalabilidade para implementações de IA em produção. Os recursos de autoescalonamento da Rapt também ajudam a garantir o uso eficiente de recursos conforme a demanda, reduzindo a latência e maximizando a eficiência de custos.

Otimizado para AMD e preparado para o futuro da IA
 A plataforma da Rapt funciona imediatamente com as GPUs AMD Instinct, garantindo benefícios instantâneos de
desempenho. A colaboração contínua entre Rapt e AMD impulsionará futuras otimizações em áreas como agendamento de GPUs eutilização de memória, entre outras, ajudando a garantir que os clientes estejam equipados com uma infraestrutura de IA preparada para o futuro.

“Na AMD, estamos comprometidos em fornecer soluções de IA de alto desempenho e escaláveis que permitam às organizações desbloquear todo o potencial de suas cargas de trabalho de IA”, disse Negin Oliver, vice-presidente corporativa de desenvolvimento de negócios, Data Center GPU Business da AMD. “Nossa colaboração com a Rapt AI combina os recursos avançados das GPUs AMD Instinct com a automação inteligente de cargas de trabalho da Rapt, permitindo que os clientes obtenham maior eficiência, flexibilidade e economia de custos em toda a sua infraestrutura de IA.”

Charlie Leeming, CEO da Rapt, acrescentou: “A colaboração com a AMD nos permite aprimorar ainda mais nossa plataforma, otimizando-a para as poderosas GPUs AMD Instinct. Essa solução conjunta foi projetada para transformar o gerenciamento de infraestrutura de IA, impulsionando desempenho, economia de custos e time-to-value mais rápido para nossos clientes. Estamos empolgados com o impacto que isso terá na aceleração da inovação em IA em diversos setores.”

“À medida que mais organizações avançam para a produção em IA, maximizar a eficiência e a economia da infraestrutura torna-se essencial”, disse Anil Ravindranath, CTO da Rapt. “A Rapt AI, profundamente integrada às poderosas GPUs AMD Instinct, fornece uma plataforma inteligente movida por IA que otimiza de forma dinâmica a alocação de recursos em toda a Cadeia de valor de Machine Learning. Essa abordagem completa proporciona não apenas desempenho acelerado e menor latência, mas também uma utilização sem precedentes das GPUs e implantação simplificada, desbloqueando capacidades verdadeiramente escaláveis e eficientes para produção de IA.”

Rapt e AMD estão comprometidas em avançar juntas para promover eficiência ns cargas de trabalho de IA.