IBM Cloud é o primeiro provedor de Nuvem a adotar o acelerador Intel Gaudi 3

A IBM Cloud é o primeiro provedor de serviços em Nuvem a disponibilizar os aceleradores de IA Intel Gaudi 3 para seus clientes, um movimento projetado para tornar os recursos de Inteligência Artificial (IA) mais acessíveis e para lidar diretamente com o alto custo do hardware de IA especializado. Para a Intel, o lançamento na IBM Cloud marca a primeira grande implementação comercial do Gaudi 3, trazendo opções para o mercado. Ao alavancar o Intel Gaudi 3 na IBM Cloud, as duas empresas pretendem ajudar os clientes a testar, inovar e implementar soluções GenAI de maneira econômica. O Gaudi 3 agora está disponível nas regiões da IBM Cloud de Frankfurt, Alemanha; Washington, D.C. e Dallas (Texas).

De acordo com uma previsão recente da empresa de pesquisa Gartner, os gastos mundiais com IA generativa (GenAI) devem totalizar US$ 644 bilhões em 2025, um aumento de 76,4% em relação a 2024. A pesquisa descobriu que “a GenAI terá um impacto transformador em todos os aspectos dos mercados de gastos com TI, sugerindo um futuro em que as tecnologias de IA se tornarão cada vez mais essenciais para as operações de negócios e produtos de consumo”.

Para muitos clientes corporativos, os benefícios são claros quando ferramentas como a GenAI automatizam tarefas, melhoram os fluxos de trabalho e impulsionam a inovação. Mas a implementação de aplicativos de IA exige um poder de computação significativo, muitas vezes exigindo processadores especializados caros, que podem impedir que muitas empresas se beneficiem da IA.

Os aceleradores Gaudi 3 AI são projetados especificamente para ajudar a atender às demandas explosivas por GenAI, inferência de grandes modelos e ajuste fino de modelos, ao mesmo tempo em que oferecem suporte a uma estrutura de desenvolvimento aberta. O Gaudi 3 também é ideal para modelos multimodais de linguagem grande (LLMs) e geração aumentada por recuperação (RAG).

“Ao trazer os aceleradores Intel Gaudi 3 AI para a IBM Cloud, estamos permitindo que as empresas ajudem a dimensionar cargas de trabalho de IA generativa com desempenho otimizado para inferência e ajuste fino”, disse Saurabh Kulkarni, vice-presidente de Estratégia de IA de Data Center da Intel. “Essa colaboração ressalta nosso compromisso compartilhado de tornar a IA mais acessível e econômica para empresas em todo o mundo”, completou.

A IBM Cloud atende a uma variedade de clientes corporativos, particularmente aqueles em setores regulamentados, como Serviços Financeiros, Saúde e Ciências Biológicas e o setor público. Bancos e seguradoras usam a Nuvem para detecção de fraudes ou atendimento personalizado ao cliente, enquanto os provedores de Saúde a usam para acelerar a descoberta e o desenvolvimento de medicamentos, diagnósticos orientados por IA, plataformas de telemedicina e monitoramento de pacientes em tempo real. Os varejistas usam tecnologia de Nuvem para plataformas de comércio eletrônico ou gerenciamento de estoque. É também uma opção para empresas que buscam modernizar sistemas antigos sem abrir mão do controle ou da segurança.

O Gaudi 3 também está sendo integrado às ofertas mais amplas de infraestrutura de IA da IBM. Os clientes podem usar o Gaudi 3 por meio do IBM Cloud Virtual Servers no IBM Virtual Private Cloud (VPC) agora. Os clientes também poderão implementar em arquiteturas a partir do segundo semestre de 2025. Espera-se que o suporte para o Red Hat OpenShift e a plataforma watsonx AI da IBM esteja disponível neste trimestre.

“A capacidade de lidar com mais dados e ter maior desempenho, tudo isso vai impulsionar uma melhor adoção da IA para clientes em todo o mundo”, diz Satinder Sethi, gerente-geral da IBM Cloud Infrastructure Services. “O Intel Gaudi 3 está dando aos clientes mais opções, mais liberdade e uma plataforma mais econômica de qual hardware de IA eles desejam usar.”

Comparações de custo e desempenho

Os aceleradores Intel Gaudi 3 AI são projetados para enfrentar o desafio de custo, equilibrando desempenho e preço. Novos testes de benchmark de inferência de IA conduzidos pela empresa de pesquisa Signal65 e encomendados pela Intel descobriram que o Gaudi 3 é 92% mais econômico (desempenho por dólar) do que a concorrência ao ser executado no modelo Llama-3.1-405B-Instruct-FP8 da Meta com grandes tamanhos de contexto1.

A eficiência de custos é uma métrica crucial porque permite que as empresas façam mais processamento de IA com o mesmo investimento ou a mesma quantidade de processamento a um custo menor. Os ganhos de desempenho destinam-se a reduzir a barreira de custo para empresas que buscam implantar ou ajustar modelos, principalmente à medida que a adoção do GenAI se espalha.

As medições de taxa de transferência ou desempenho referem-se à quantidade de processamento de IA que o acelerador pode executar a cada vez, também conhecidas como tokens por segundo. O Gaudi 3 oferece processamento de IA significativamente mais rápido do que a concorrência. No modelo IBM Granite-3.1-8B-Instruct, o Gaudi 3 forneceu 43% mais tokens por segundo para pequenas cargas de trabalho de IA1e 36% mais tokens por segundo com grandes tamanhos de contexto em comparação com a concorrência ao executar o modelo Llama-3.1-405B-Instruct-FP8 da Meta.