Red Hat e Rebellions desenvolvem plataforma para acelerar a inferência de IA

A Rebellions e a Red Hat, fornecedora mundial de soluções open source, anunciaram o Red Hat OpenShift AI alimentado pelas unidades neurais de processamento (NPUs) da Rebellions, integrando as capacidades escaláveis, flexíveis e de código aberto de inferência de IA da Red Hat com as NPUs energeticamente eficientes da Rebellions para entregar uma plataforma de IA empresarial full-stack validada. Essa colaboração apoia totalmente o objetivo da Red Hat de entregar “qualquer modelo, qualquer acelerador, qualquer Nuvem” para clientes globalmente, permitindo mais opções e opções nas arquiteturas que sustentam as cargas de trabalho de IA.

À medida que as organizações transferem iniciativas de IA para casos de uso reais de negócios, desafios como custos de infraestrutura, complexidade de implementação e a necessidade de ambientes flexíveis com pegada de segurança aprimorada estão se tornando mais evidentes. Ambientes centrados em GPU, por si só, podem ser insuficientes para atender às demandas de desempenho e eficiência em larga escala. O Red Hat OpenShift AI alimentado pelas NPUs da Rebellions enfrenta esses desafios ao permitir que as organizações operem cargas de trabalho de IA de forma mais eficiente em todos os ambientes.

As NPUs da Rebellion são projetadas com uma arquitetura otimizada para inferência de IA, proporcionando maior eficiência energética em comparação com GPUs tradicionais, reduzindo de forma mais eficaz a implantação de data centers e os custos operacionais tanto no nível de servidor quanto de rack. Seu software full-stack especializado e suporte para frameworks de IA open source líderes oferecem o mesmo nível de ambiente de desenvolvimento conveniente que as GPUs.

O Red Hat OpenShift AI alimentado pelas NPUs Rebellions oferece uma solução totalmente integrada, desde hardware até o serviço de modelos, que foi validada pela Red Hat e Rebellions para compatibilidade em nível empresarial. A pilha de software da Rebellions roda nativamente no Red Hat OpenShift AI, reduzindo sobrecarga e acelerando a implantação. O Operador NPU Rebellions, certificado para Red Hat OpenShift, permite uma integração mais fluida e suporte confiável em ambientes on-premises e Multinuvem, ajudando a cumprir a soberania dos dados e a conformidade regulatória. Essa solução oferece:

IA pronta para empresas em escala: rodar grandes modelos de linguagem (LLMs) e cargas de inferência com alta taxa de transferência, baixa latência e eficiência energética superior, aproveitando vLLM integrado às soluções NPU em rack da Rebellion para processamento distribuído.

Seguro e em conformidade: mantenha os dados no local e atenda aos requisitos regulatórios com a plataforma confiável da Red Hat e o hardware seguro da Rebellions.

Operações simplificadas: gerencie NPUs como GPUs, usando a plataforma unificada da Red Hat, reduzindo a complexidade e acelerando a adoção.

Flexível e escalável: Implante onde seus dados estão, do núcleo à borda, com escalonamento linear.

“O futuro da IA corporativa exige escolhas arquitetônicas além de pilhas proprietárias e monolíticas. Nossa colaboração com a Rebellions é um passo poderoso para implementar a estratégia da Red Hat de ‘qualquer modelo, qualquer acelerador, qualquer nuvem’. Ao integrar de forma estreita as capacidades abertas e escaláveis da IA do Red Hat OpenShift com as NPUs energeticamente eficientes da Rebellions, estamos oferecendo às empresas uma alternativa validada e full-stack. Isso permite que os clientes implantem suas cargas de trabalho de inferência de IA mais exigentes com a eficiência, baixa latência e escalabilidade horizontal necessárias, que são críticas para a IA de produção”, disse Brian Stevens, vice-presidente sênior e diretor de Tecnologia de IA da Red Hat.

“À medida que o serviço e a inferência de IA aceleram, as empresas precisam de uma infraestrutura prática que atenda aos seus requisitos de desempenho, eficiência de custos e soberania de dados. Por meio dessa colaboração, Red Hat e Rebellions fornecerão uma plataforma validada de inferência de ponta a ponta que substituirá as abordagens fragmentadas do passado. Isso ajudará as empresas a escalar seus serviços de IA de forma mais eficiente e segura, ao mesmo tempo em que apresentará uma nova alternativa baseada em NPUs ao ambiente tradicionalmente centrado em GPUs”, comentou Sung Hyun Park, CEO da Rebellions.

Serviço
www.redhat.com