Nova versão do Red Hat OpenShift AI impulsiona a inovação de IA em escala

A Red Hat, fornecedora global de soluções open source, apresentou a versão mais recente do Red Hat OpenShift AI, sua plataforma de Inteligência Artificial (IA) e Machine Learning (ML) baseada no Red Hat OpenShift, que permite que as empresas criem e forneçam aplicações habilitadas para IA em escala na Nuvem híbrida. O Red Hat OpenShift AI 2.15 foi projetado para fornecer maior flexibilidade, recursos de ajuste e rastreamento, ajudando a acelerar a inovação de IA/ML e a consistência operacional das empresas com maior regularidade e uma postura de segurança mais forte em escala em Nuvens públicas, Data Centers e ambientes de Edge.

“O Red Hat OpenShift AI oferece melhorias significativas em escalabilidade, desempenho e eficiência operacional, ao mesmo tempo em que atua como uma base para o ciclo de vida do modelo abrangente, possibilitando que as organizações de TI obtenham os benefícios de uma poderosa plataforma de IA, mantendo a capacidade de criar, implementar e executar em qualquer ambiente que suas necessidades de negócios exclusivas exijam”, disse Joe Fernandes, vice-presidente e gerente-geral da Unidade de Negócios de IA da Red Hat.

De acordo com a IDC, as empresas incluídas na Forbes Global 2000 alocarão mais de 40% de seus principais gastos com TI em iniciativas de IA. Além disso, a IDC prevê que, até 2026, as empresas aproveitarão a IA generativa e as tecnologias de automação para gerar US$ 1 trilhão em ganhos de produtividade. A Red Hat vê esse nível de investimento como um que requer uma plataforma de IA/ML que possa gerenciar ciclos de vida de modelos e criar aplicativos de IA generativa, ao mesmo tempo em que é flexível o suficiente para ser executado junto com cargas de trabalho e aplicativos tradicionais em toda a Nuvem híbrida

O Red Hat OpenShift AI 2.15 tem como objetivo ajudar as empresas a atender às necessidades emergentes de cargas de trabalho de IA, juntamente com os requisitos das aplicações nativas em Nuvem de missão crítica que impulsionam seus negócios hoje. Os recursos avançados fornecidos com a versão mais recente do Red Hat OpenShift AI incluem:

– O registro de modelos, atualmente fornecido como visualização de tecnologia, é o local central para exibir e gerenciar modelos registrados. Esse recurso fornece uma maneira estruturada e organizada de compartilhar, controlar a versão, implantar e rastrear modelos de IA preditiva e de geração, metadados e artefatos de modelo. A opção de fornecer vários registros de modelo também está disponível. A Red Hat também doou o projeto de registro de modelos para a comunidade Kubeflow como um subprojeto.

– A detecção de descompasso de dados monitora as alterações nas distribuições de dados de entrada para modelos de ML implementados. Esse recurso permite que os cientistas de dados detectem quando os dados em tempo real usados para interferência do modelo se desviam significativamente dos dados nos quais o modelo foi treinado. A detecção de desvios ajuda a verificar a confiabilidade do modelo monitorando continuamente os dados de entrada, mantendo o modelo alinhado com os dados do mundo real e ajudando a manter a precisão de suas previsões ao longo do tempo.

– As ferramentas de detecção de viés ajudam os cientistas de dados e engenheiros de IA a monitorar se seus modelos são justos e imparciais, uma parte crucial do estabelecimento da confiança do modelo. Essas ferramentas não apenas ajudam a fornecer insights sobre se os modelos são imparciais com base nos dados de treinamento, mas também monitoram esses modelos quanto à imparcialidade durante implantações no mundo real. Essas ferramentas são incorporadas à comunidade de código aberto TrustyAI, que fornece um kit de ferramentas diversificado para desenvolvimento e implantação de IA responsável.

– O ajuste fino eficiente com LoRA usa adaptadores de baixa classificação (LoRA) para permitir um ajuste fino mais eficiente de LLMs, como o Llama 3. Isso permite que as organizações dimensionem cargas de trabalho de IA enquanto reduzem custos e consumo de recursos. Ao otimizar o treinamento e o ajuste fino do modelo em ambientes nativos da nuvem, essa solução aprimora o desempenho e a flexibilidade, tornando a implantação de IA mais acessível e escalável.

– Suporte para Nvidia NIM, um conjunto de microsserviços de interface fáceis de usar que aceleram a entrega de aplicativos de IA de geração. A integração com o NIM, parte da plataforma de software NVIDIA AI Enterprise, ajudará a acelerar as implantações de IA de geração, ao mesmo tempo em que oferece suporte a uma ampla variedade de modelos de IA para fornecer inferência escalável no local ou na nuvem por meio de interfaces de programação de aplicativos (APIs).

– O suporte para GPUs AMD permite o acesso a uma imagem do ambiente de trabalho AMD ROCm para usar GPUs AMD para desenvolvimento de modelos. A nova funcionalidade também permite o acesso a imagens que podem ser usadas para servir e treinar/ajustar casos de uso com GPUs AMD. Esse suporte oferece às organizações opções adicionais para usar GPUs para melhorar o desempenho de atividades com uso intensivo de computação.

Serviço de modelo aprimorado

Como uma plataforma abrangente de IA/ML, o Red Hat OpenShift AI 2.15 também adiciona novos recursos em torno do serviço de modelos de IA de geração, incluindo o tempo de execução de serviço do vLLM para o KServe. Esse novo recurso traz o popular modelo de código aberto que serve o tempo de execução para grandes modelos de linguagem (LLMs) para a plataforma. A flexibilidade e o desempenho do vLLM são uma excelente adição aos tempos de execução atualmente suportados pela plataforma, com os usuários também podendo adicionar suas próprias opções personalizadas conforme os requisitos de negócios.

A versão mais recente do Red Hat OpenShift AI também adiciona suporte para KServe Modelcars, que adiciona repositórios Open Container Initiative (OCI) como uma opção para armazenar e acessar versões de modelos em contêineres. Além disso, a seleção de rotas privadas/públicas para endpoints no KServe permite que as organizações aprimorem a postura de segurança de um modelo, direcionando-o especificamente para endpoints internos quando necessário.

Opções expandidas de treinamento e experimentação de IA

O Red Hat OpenShift AI 2.15 adiciona melhorias aos pipelines de ciência de dados e ao rastreamento de experimentos, capacitando os cientistas de dados a gerenciar, comparar e analisar com mais facilidade as execuções de pipeline agrupadas em uma estrutura lógica. A plataforma também adiciona ajuste de hiperparâmetros com o Ray Tune, adicionando algoritmos de otimização avançados para melhorar a precisão e treinar modelos preditivos e de IA de geração com mais eficiência. As imagens de contêiner base para clusters Ray agora estão incluídas na versão mais recente do Red Hat OpenShift AI, e os trabalhos de treinamento e ajuste podem ser programados em cargas de trabalho distribuídas no cluster para acelerar os trabalhos e maximizar a utilização do nó.