Novos recursos do Nutanix GPT-in-a-Box aceleram a adoção da IA

A Nutanix, empresa global de computação Multinuvem híbrida, anunciou uma nova funcionalidade para o Nutanix GPT-in-a-Box, incluindo integrações com microsserviços de inferência Nvidia NIM e biblioteca Hugging Face Large Language Models (LLMs). Além disso, a empresa anunciou o Nutanix AI Partner Program, destinado a reunir os principais parceiros de soluções e serviços de IA para apoiar os clientes que procuram executar, gerenciar e proteger aplicativos de IA generativa (GenAI) além do Nutanix Cloud Platform e GPT-in-a-Box. O Nutanix GPT-in-a-Box é uma solução full-stack desenvolvida especificamente para simplificar a adoção de IA corporativa com forte integração com o Nutanix Objects e o Nutanix Files para armazenamento de modelos e dados.

“Vimos uma ótima resposta ao nosso lançamento original do Nutanix GPT-in-a-Box, validando as necessidades dos clientes corporativos por soluções de software locais que simplificam a implementação e o gerenciamento de modelos de IA e endpoints de inferência”, disse Thomas Cornely, vice-presidente sênior de Gerenciamento de Produtos da Nutanix. “A empresa é a nova fronteira para a GenAI e estamos entusiasmados em trabalhar com nosso ecossistema de parceiros em rápido crescimento para tornar o mais simples possível executar aplicativos GenAI no local em escala, mantendo o controle sobre privacidade e custo”, completou.

Nutanix GPT-in-a-Box 2.0

A empresa anunciou o GPT-in-a-Box 2.0, que fornecerá computação acelerada Nvidia expandida e suporte a LLM, juntamente com gerenciamento simplificado de modelos fundamentais e integrações com microsserviços Nvidia NIMs e a biblioteca Hugging Face LLM. O GPT-in-a-Box 2.0 incluirá uma interface de usuário unificada para gerenciamento de modelo básico, criação de endpoint de API, gerenciamento de chaves de acesso de usuário final e integrará arquivos e objetos Nutanix, além de GPUs Nvidia Tensor Core.

O GPT-in-a-Box 2.0 trará simplicidade Nutanix para a experiência do usuário com uma interface gráfica de usuário integrada, controle de acesso baseado em função, auditabilidade e suporte a sites escuros, entre outros benefícios. Ele também fornecerá uma interface de usuário apontar e clicar para implantar e configurar o Nvidia NIM, parte da plataforma de software Nvidia AI Enterprise para o desenvolvimento e implantação de IA de nível de produção, para implantar e executar facilmente cargas de trabalho GenAI na empresa e na Borda.

Parceria com a Hugging Face

A Nutanix também anunciou uma parceria com a Hugging Face para ajudar a acelerar a jornada de IA dos clientes, fornecendo acesso integrado à biblioteca Hugging Face e execução de LLMs para clientes da Nutanix. Os clientes conjuntos poderão aproveitar o Nutanix GPT-in-a-Box 2.0 para consumir facilmente LLMs validados do Hugging Face e executá-los de forma eficiente.

Por meio dessa parceria, a Nutanix e a Hugging Face desenvolverão uma integração personalizada com o Text Generation Inference, a popular biblioteca de código aberto Hugging Face para implantação de modelos de linguagem grande, e habilitarão modelos de geração de texto disponíveis no Hugging Face Hub dentro do Nutanix GPT-in-a-Box 2.0. Ele fornecerá um fluxo de trabalho contínuo para implantar LLMs de IA validados da Hugging Face com suporte total da Nutanix, expandindo significativamente o número de LLMs suportados. Isso criará um fluxo de trabalho validado e suportado em conjunto para bibliotecas e LLMs do Hugging Face, garantindo que os clientes tenham um único ponto de gerenciamento para inferência consistente do modelo.

Plataforma de dados não estruturados 

A Nutanix também aprimorou sua plataforma de dados não estruturados para IA/ML e outros aplicativos com maior desempenho, densidade e TCO. O Nutanix Unified Storage (NUS) agora oferece suporte a uma nova plataforma NVMe densa de 550+ Terabytes de baixo custo e taxa de transferência de leitura sequencial de até 10 Gigabytes/segundo a partir de um único nó (perto da velocidade da linha para uma porta ethernet de 100 Gigabit), permitindo leituras de dados mais rápidas e uso mais eficiente dos recursos da GPU.

A Nutanix também adicionará suporte para Nvidia GPU Direct Storage para acelerar ainda mais os aplicativos de IA/ML. Além disso, para proteger os dados extremamente valiosos e muitas vezes confidenciais, como conjuntos de dados usados para treinar e processar cargas de trabalho de IA/ML, o Nutanix Data Lens estende o valor de resiliência cibernética aos objetos, além dos dados dos arquivos. Um novo ponto de presença baseado na Data Lens Frankfurt permite uma adoção mais ampla nos clientes da UE, atendendo às suas próprias necessidades de conformidade.

A Nutanix colaborou com os principais OEMs de servidores para fornecer aos clientes amplitude e escolha com uma ampla gama de GPUs otimizadas para IA e sistemas de GPU otimizados para densidade. Essas GPUs otimizadas para IA, incluindo as GPUs Nvidia L40S, H100, L40 e L4, agora são suportadas no Nutanix GPT-in-a-Box. A Nutanix agora também oferece suporte a sistemas de GPU otimizados para densidade da Dell, HPE e Lenovo para ajudar a reduzir o custo total de propriedade, permitindo que os clientes implantem um número menor de sistemas para atender às suas demandas de carga de trabalho. A empresa também anunciou o suporte planejado para NX-9151, que é baseado na arquitetura de referência Nvidia MGX.

Programa de parceria de IA 

Para apoiar ainda mais as estratégias de IA dos clientes, a Nutanix anunciou o novo Programa de Parceiros de IA, fornecendo aos clientes acesso simplificado a um ecossistema expandido de parceiros de IA para fornecer soluções GenAI do mundo real. Os parceiros ajudarão as organizações a criar, executar, gerenciar e proteger aplicativos GenAI de terceiros e internos sobre a Nutanix Cloud Platform e a solução Nutanix GPT-in-a-Box, voltada para casos de uso de IA proeminentes.

Esse amplo ecossistema de parceiros ajudará a lidar com diversos casos de uso, incluindo operações, segurança cibernética, detecção de fraudes e suporte ao cliente, em verticais como saúde, serviços financeiros e serviços jurídicos e profissionais. Os parceiros iniciais incluem: Codeium, DataRobot, DKube, Instabase, Lamini, Neural Magic, Robust Intelligence, RunAI e UbiOps.

Os benefícios do programa para parceiros incluem:

Validação Nutanix AI Ready: todos os parceiros receberão a validação Nutanix AI Ready para demonstrar interoperabilidade com o Nutanix Cloud Infrastructure, o hipervisor Nutanix AHV e a Nutanix Kubernetes Platform.

Soluções full-stack: os parceiros do programa se beneficiarão de resumos de soluções individuais destacando os benefícios da solução Nutanix e de parceiros. Além disso, parceiros selecionados receberão uma nota técnica, um guia de práticas recomendadas ou uma arquitetura de referência para simplificar a implementação com clientes conjuntos.

Alinhamento promocional e go-to-market: os parceiros se beneficiarão de atividades de go-to-market e geração de demanda centradas no caso de uso de IA para empresas. Eles terão acesso a oportunidades promocionais e de entrada no mercado, incluindo criação de conteúdo, postagens em blogs, webinars, podcasts e outros eventos, para ajudar a aumentar a conscientização e a demanda por casos de uso importantes.