Red Hat AI Factory with Nvidia acelera o caminho para IA em grande escala

A Red Hat, empresa mundial de soluções de código aberto, anunciou o Red Hat AI Factory with Nvidia, uma plataforma de software desenvolvida em conjunto que combina o Red Hat AI Enterprise e o Nvidia AI Enterprise para fornecer uma solução de IA completa, otimizada para organizações que implementam IA em grande escala. O Red Hat AI Factory with Nvidia é o mais recente marco na profunda colaboração entre as empresas, acelerando a entrega das mais recentes inovações em IA para clientes corporativos hoje, além de oferecer suporte imediato para arquiteturas de hardware da Nvidia.

Com a previsão de que os gastos corporativos com IA ultrapassem US$ 1 trilhão até 2029, impulsionados em grande parte por aplicações de agentes de IA, as organizações estão buscando direcionar suas estratégias para fluxos de trabalho de alta densidade e com agentes, além de atender às demandas resultantes em inferência e infraestrutura de IA. Para ajudar as organizações a acompanhar esse ritmo, o Red Hat AI Factory with Nvidia capacita as equipes de operações de TI a otimizar o gerenciamento tanto da infraestrutura tradicional quanto das demandas em constante evolução da pilha de IA.

O Red Hat AI Factory with Nvidia acelera o caminho para a IA em produção e fornece a plataforma de software para fábricas de IA, executada em infraestrutura de computação acelerada que impulsiona o desempenho dos modelos e das GPUs Nvidia que executam a pilha de inferência. A plataforma é compatível com a infraestrutura de fábrica de IA dos principais fabricantes de sistemas, incluindo Cisco, Dell Technologies, Lenovo e Supermicro. Isso permite que administradores de TI e equipes de operações dimensionem e mantenham implantações de IA com o mesmo rigor operacional e previsibilidade de qualquer carga de trabalho corporativa.

Esta plataforma de software desenvolvida em conjunto integra a colaboração em código aberto, a engenharia e a experiência em suporte da Red Hat e da Nvidia para fornecer uma solução confiável e de nível empresarial. O Red Hat AI Factory with Nvidia oferece uma base altamente escalável para implementações de IA em qualquer ambiente, seja local, na Nuvem ou na Borda. Inclui recursos essenciais para inferência de IA de alto desempenho, ajuste de modelos, personalização e implantação e gerenciamento de agentes, com foco em segurança. Isso permite que as organizações mantenham o controle arquitetônico desde o Data Center até a Nuvem pública, proporcionando:

Acelere o Retorno sobre o Investimento (ROI): avance para a IA em produção com fluxos de trabalho simplificados e acesso instantâneo a modelos pré-configurados, incluindo a família IBM Granite (com garantia de indenização), Nvidia Nemotron e modelos abertos Nvidia Cosmos , fornecidos como microsserviços Nvidia NIM . Além disso, as organizações podem alinhar ainda mais os modelos aos dados corporativos usando o Nvidia NeMo , reduzindo o tempo e o custo de ajuste.

Desempenho e custo otimizados: maximize o uso da infraestrutura e fortaleça o desempenho da inferência com uma pilha de serviços unificada e de alto desempenho. O Red Hat AI Factory with Nvidia oferece recursos de observabilidade integrados e aproveita os recursos de inferência de IA da Red Hat, com tecnologia vLLM, Nvidia TensorRT-LLM e Nvidia Dynamo, para atender a objetivos rigorosos de nível de serviço de IA. Isso ajuda as organizações a reduzir o custo total de propriedade (TCO) de IA, otimizando a conexão entre modelos e GPUs Nvidia.

Orquestração inteligente de GPUs: permite o acesso sob demanda a recursos de GPU por meio de orquestração inteligente e infraestrutura agrupada, com checkpoint automático para proteger tarefas de longa duração e manter custos de computação mais previsíveis em ambientes dinâmicos.

Postura empresarial reforçada: aproveitando a base flexível e estável do Red Hat Enterprise Linux, as organizações se beneficiam de recursos avançados de segurança e conformidade integrados desde o início, que ajudam a reduzir riscos, economizar tempo e mitigar o tempo de inatividade. Isso proporciona uma base de segurança robusta para cargas de trabalho de IA de missão crítica que exigem isolamento e verificação contínua. Os microsserviços Nvidia Doca se baseiam nessa fundação, criando uma arquitetura de confiança zero e fornecendo segurança de tempo de execução de IA em toda a infraestrutura.

Serviço
www.redhat.com