IBM traz desempenho e eficiência aprimorados para IA e HPC com Nvidia

Apesar do crescente interesse em IA generativa, apenas 39% das organizações pesquisadas dizem que estão implementando ou operando IA generativa para inovação e pesquisa. Mais de dois terços (69%) das organizações esperam usar IA generativa para inovação aberta até 2025, acima dos 29% em 2022.

De acordo com Rohit Badlaney, gerente-geral de Cloud Product da IBM, para ajudar os clientes a adotar a IA generativa, a empresa está ampliando suas ofertas de computação de alto desempenho (HPC), dando aos clientes mais poder e versatilidade para realizar pesquisa, inovação e transformação de negócios. “Com a disponibilidade geral das instâncias de GPU Nvidia H100 Tensor Core no IBM Cloud, que visualizamos durante o Think 2024, as empresas terão acesso a uma plataforma poderosa para aplicativos de IA, incluindo treinamento em modelos de linguagem grande (LLM). Essa nova GPU se junta à linha existente de ofertas de computação acelerada da IBM Cloud para aproveitar durante todas as etapas da implementação de IA de uma empresa”, disse Badlaney.

Segundo o executivo, os clientes que desejam se transformar com IA podem aplicar o estúdio de IA watsonx, o Data Lakehouse e o kit de ferramentas de governança da IBM até mesmo aos aplicativos mais exigentes e com uso intensivo de computação, elevando o teto para a inovação, mesmo nos setores mais regulamentados.

O Nvidia H100 no IBM Cloud baseia-se no trabalho da IBM para oferecer suporte ao treinamento e inferência de modelos de IA generativa. No ano passado, a empresa começou a disponibilizar as GPUs Nvidia A100 Tensor Core para clientes por meio do IBM Cloud, dando a eles imenso espaço de processamento para inovar com IA por meio da plataforma watsonx ou como GPUaaS para necessidades personalizadas.

“A nova GPU Nvidia H100 Tensor Core leva essa progressão um passo adiante, que a Nvidia relata que pode permitir um desempenho de inferência até 30 vezes mais rápido em relação ao A100. Ele tem o potencial de oferecer aos clientes do IBM Cloud uma variedade de recursos de processamento, ao mesmo tempo em que aborda o custo do ajuste e inferência de IA em toda a empresa. As empresas podem começar pequenas, treinando modelos em pequena escala, ajustando modelos ou implementando aplicativos como chatbots, pesquisa de linguagem natural e usando ferramentas de previsão usando GPUs Nvidia L40S e L4 Tensor Core. À medida que suas necessidades crescem, os clientes do IBM Cloud podem ajustar seus gastos de acordo, eventualmente aproveitando o H100 para os casos de uso de IA e HPC mais exigentes”, explicou Badlaney.

“Ao oferecer acesso direto a essas GPUs Nvidia no IBM Cloud, em ambientes VPC e Red Hat OpenShift gerenciados, estamos facilitando a transformação para obter uma vantagem competitiva com IA generativa. Combinado com o watsonx para criar modelos de IA e gerenciar a complexidade e a governança de dados, bem como nossas ferramentas de segurança, empresas de todos os tamanhos têm o potencial de enfrentar os desafios de dimensionar a IA”, comentou o executivo.

Por que o IBM Cloud for AI and HPC?

O IBM Cloud oferece uma plataforma abrangente para que as empresas criem aplicativos de IA customizados, gerenciem seus dados e ofereçam suporte a iniciativas de segurança e conformidade.

Suporte à privacidade, segurança e conformidade de dados: o IBM Cloud aplica protocolos de segurança de vários níveis projetados para proteger os processos de IA e HPC e proteger contra vazamento de dados e preocupações com privacidade de dados. Ele também inclui controles internos para estabelecer proteções de infraestrutura e dados para cargas de trabalho de IA.

Governança do modelo de IA: operacionalizar a IA com eficiência não é possível sem o rastreamento do ciclo de vida da IA de ponta a ponta usando processos automatizados para clareza, monitoramento e catalogação. Construído na plataforma de dados e IA da IBM watsonx, o watsonx.governance ajuda a direcionar e gerenciar as atividades de IA das organizações e as monitora quanto à qualidade e desvio. Reguladores e auditores podem obter acesso à documentação que fornece explicações sobre o comportamento e as previsões do modelo.

Automação na implementação: o IBM Cloud automatiza a implementação de aplicativos baseados em IA para ajudar a resolver o tempo e os erros que podem ocorrer com a configuração manual. Ele também fornece serviços essenciais, como soluções de gerenciamento do ciclo de vida da IA, plataforma sem servidor, armazenamento, segurança e soluções para ajudar os clientes a monitorar sua conformidade.

As instâncias de GPU Nvidia H100 Tensor Core no IBM Cloud agora estão disponíveis em nossas regiões de várias zonas (MZRs) na América do Norte, América Latina, Europa, Japão e Austrália.