Novas placas AMD Instinct MI350 atualizam o Data Center para a era da IA

À medida que as organizações adotam a IA, muitas descobrem que sua infraestrutura tem dificuldades para acompanhar essa tecnologia. Rodar IA na Nuvem é uma opção, mas pode trazer preocupações de privacidade e custos imprevisíveis. Atualizar a infraestrutura local é outra opção, mas suportar grandes plataformas de aceleradores de GPU pode exigir redesigns caros na energia e resfriamento do Data Center. Neste cenário, a AMD anunciou a novas placas AMD Instinct MI350 PCIe, que oferecem desempenho de IA de liderança projetado para se adequar à infraestrutura de Data Center que a empresa já possui.

Projetadas para a era dos agentes de IA, as placas PCIe AMD Instinct MI350P são placas drop-in de duplo slot para servidores refrigerados a ar padrão. As placas foram construídas para implementar inferência nas instalações dentro da infraestrutura de energia, resfriamento e rack do Data Center atual. GPUs AMD Instinct em placas PCIe de baixo custo completam o portfólio de computação de IA da AMD, oferecendo uma variedade de opções para sua empresa enquanto navega por sua curva única de adoção de IA.

Segundo informações, o formato PCIe é uma excelente escolha para empresas que precisam de mais poder computacional de IA do que as CPUs podem oferecer, mas que não estão prontas para investir em plataformas dedicadas de aceleradores de GPU. Disponíveis em sistemas refrigerados a ar com até oito placas aceleradoras, as placas PCIe AMD Instinct MI350P são ideais para modelos de IA pequenos, médios e grandes para pipelines de inferência e RAG.

Não escale apenas a IA, mas também o ROI

As placas PCIe AMD Instinct MI350P são projetadas para oferecer desempenho excepcional em IA com excelente desempenho em custo e liderança. Recursos-chave ajudam a aumentar o desempenho, simplificar a implantação e reduzir custos, permitindo que você passe da avaliação para resultados reais:

– Suporte nativo para MXFP6 e MXFP4 de menor precisão, que entregam alta produtividade.
Aceleração por meio do suporte à escarabidão para a maioria das precisões mainstream de 8 e 16 bits.

– Estimado em 2.299 teraflops (TFLOPS) e até 4.600 TFLOPS de pico em MXFP4, o maior desempenho atualmente disponível em uma placa PCIe empresarial.

– Estimado em 144 GB de memória de alta largura de banda 3e (HBM3E) rodando a até 4TB/s.
Ecossistema aberto com opções de stack de desenvolvimento de baixo ou nenhum custo simplifica a implantação e ajuda a reduzir despesas operacionais.

Desenvolva a própria pilha de softwares de IA

As placas AMD Instinct MI350P PCIe foram projetadas com padrões abertos para interoperabilidade multiplataforma. A adição deles continua a estratégia da AMD de possibilitar um ecossistema de IA totalmente aberto e oferecer escolha ao cliente em ambientes empresariais.

A pilha de IA corporativa da AMD atua como um componente fundamental, integrando-se perfeitamente a um amplo ecossistema de softwares e ferramentas de IA. Inclui o Kubernetes GPU Operator para gerenciamento completo do ciclo de vida, microserviços AMD Inference nativos em Nuvem e suporte nativo para frameworks de IA como o PyTorch. Tudo isso permite migrar cargas de trabalho de inferência com mudanças mínimas no código.

A AMD fornece a pilha de referência de IA empresarial de código aberto para seus parceiros sem custo de licenciamento, oferecendo maior transparência de código, que ajuda a reduzir despesas operacionais. Quando combinado com placas PCIe AMD Instinct MI350P e soluções entregues por parceiros, a pilha permite que as organizações entrem em operação de forma rápida localmente, sem cobranças contínuas por token.

Com as placas PCIe AMD Instinct MI350P, a empresa pode migrar rapidamente de infraestrutura bare-metal para sistemas de IA prontos para produção sobre uma base sólida. Eles permitem migrar cargas de trabalho sem precisar reescrever códigos, integrados com pipelines de IA existentes, escalando conforme as cargas de trabalho evoluem.

Adotar IA não significa reconstruir infraestrutura do zero. Com placas PCIe AMD Instinct MI350P, as empresas podem rodar mais modelos e atender mais usuários em seus Data Centers existentes.

Serviço
www.amd.com