Red Hat OpenShift AI acelera a adoção de IA generativa na Nuvem híbrida

A Red Hat, fornecedora global de soluções de código aberto, anunciou novos recursos para o Red Hat OpenShift AI durante o seu evento Red Hat Summit (23 a 25/5) em Boston (EUA). A plataforma, construída com recursos do Red Hat OpenShift e Red Hat OpenShift Data Science, fornece uma base consistente e escalável baseada em tecnologia de código aberto para líderes de operações de TI, ao mesmo tempo em que traz um ecossistema de parceiros especializados para cientistas de dados e desenvolvedores capturarem inovação em IA. Para esse fim, o Red Hat OpenShift AI sustenta os serviços generativos de IA da IBM watsonx.ai, a plataforma de IA da IBM projetada para dimensionar aplicativos e serviços inteligentes em todos os aspectos da empresa, alimentando a próxima geração de modelos básicos.

À medida que modelos de linguagem grande (LLMs) como GPT-4 e LLaMA se tornam populares, pesquisadores e desenvolvedores de aplicativos em todos os domínios e setores estão explorando maneiras de se beneficiar desses e de outros modelos básicos. Os clientes podem ajustar modelos comerciais ou de código aberto com dados específicos de domínio para torná-los mais precisos para seus casos de uso específicos. O treinamento inicial de modelos de IA é incrivelmente intensivo em infraestrutura, exigindo plataformas e ferramentas especializadas antes mesmo de servir, ajustar e gerenciar modelos. Sem uma plataforma que possa atender a essas demandas, as organizações geralmente ficam limitadas em como podem realmente usar IA/ML.

O OpenShift AI aborda esses desafios, fornecendo consistência de infraestrutura em treinamento, implementação e inferência para liberar o potencial da IA.

O Red Hat OpenShift AI ajuda a remover muitas dessas barreiras, fornecendo uma base padronizada para a criação de modelos de produção de IA/ML, bem como para a execução dos aplicativos resultantes. O OpenShift AI oferece consistência, facilidade de uso e opções de implementação de ponta a ponta do Red Hat OpenShift. Os engenheiros de plataforma podem criar configurações escaláveis, específicas para as necessidades de seus cientistas de dados e desenvolvedores. O OpenShift AI pode ser usado para ajustar os modelos existentes, economizando nos custos iniciais de treinamento do modelo, aumentando o tempo de valorização e expandindo o uso da IA ​​além dos cientistas de dados especializados.

O Red Hat OpenShift AI fornece várias ofertas opcionais de parceiros de tecnologia, incluindo Anaconda, IBM Watson Studio, Intel OpenVINO e AI Analytics Toolkit, Nvidia AI Enterprise e Starburst. Ele também fornece acesso a mais 30 parceiros certificados de AI/ML como parte do ecossistema OpenShift.

Novos recursos

Clientes com requisitos regulamentares e de conformidade específicos, incluindo ambientes isolados e desconectados, podem preparar dados e desenvolver, treinar e implementar modelos no local usando o OpenShift AI. Os clientes também podem desenvolver modelos na Nuvem pública e implementá-los no local ou na Borda usando as mesmas ferramentas e interfaces consistentes, fornecendo um ambiente MLOps híbrido exclusivo que permite a colaboração entre operações de TI, ciência de dados e desenvolvedores de aplicativos.

A base comprovada do OpenShift AI permite que os clientes dimensionem de forma mais confiável para treinar modelos de base usando os recursos nativos de aceleração de GPU do OpenShift no local ou por meio de um serviço de Nuvem.

Aprimoramentos recentes no Red Hat OpenShift AI incluem:

– Pipelines de implementação para rastreamento de experimentos de IA/ML e fluxos de trabalho de ML automatizados, que ajudam cientistas de dados e desenvolvedores de aplicativos inteligentes a iterar mais rapidamente em projetos de aprendizado de máquina e criar automação na implementação e atualizações de aplicativos.

– O serviço de modelo agora inclui suporte de GPU para inferência e tempos de execução de serviço de modelo personalizado que melhoram o desempenho de inferência e a implantação aprimorada de modelos de base.

– O monitoramento de modelo permite que as organizações gerenciem o desempenho e as métricas operacionais a partir de um painel centralizado.

O OpenShift AI alimenta o IBM watsonx e o Ansible Lightspeed

O Red Hat OpenShift AI fornece a base para os mais recentes avanços de IA da IBM, incluindo o IBM Watson Code Assistant, para fornecer IA específica de domínio para sua organização de TI e equipes de desenvolvedores.

O Ansible Lightspeed traz o poder do IBM Watson Code Assistant para o Ansible, capacitando usuários de todos os níveis de habilidade a escrever Playbooks Ansible com recomendações geradas por IA. O Ansible Lightspeed permite um aumento de produtividade para usuários Ansible, permitindo que eles usem comandos em inglês para criar um Ansible Playbook, independentemente de seu nível de proficiência em automação.

Serviço
www.redhat.com