Dynatrace avança em observabilidade para apoiar iniciativas de IA generativa

A Dynatrace anunciou nesta terça-feira (28/1) recursos estendidos para a observabilidade das iniciativas GenAI dos clientes. Esses avanços fornecem às equipes acesso a insights abrangentes sobre seus aplicativos de IA para impulsionar a confiabilidade, o desempenho, a segurança e a conformidade. Com essa visibilidade, as organizações agora têm clareza sobre suas iniciativas de IA e podem entender seu retorno sobre o investimento (ROI).

A IDC prevê que os gastos mundiais com tecnologias de suporte à IA ultrapassarão US$ 749 bilhões até 2028. Investir nessa tecnologia é imperativo para empresas que buscam obter uma vantagem competitiva. Igualmente importante é a capacidade de observar essas tecnologias para ajudar a garantir que elas sejam implementadas de maneira otimizada e segura, agreguem valor comercial e se prestem a graus mais altos de automação.

A Dynatrace está permitindo que seus clientes corporativos consigam isso por meio de uma série de avanços de plataforma pioneiros no setor, incluindo:

Análise aprimorada do modelo LLM: além de monitorar KPIs padrão, como erros de entrada e saída, tempos de resposta e consumo de token, os recursos preditivos do Dynatrace Davis AI detectam mudanças no comportamento de uso para prever e prever mudanças de custo associadas ao uso do LLM. Isso ajuda as equipes a entender o desempenho do modelo e as oportunidades de otimização, incluindo como podem gerenciar melhor os custos e controlar o ROI.

Proteções de entrada e saída do LLM: a Dynatrace protege a qualidade da entrada e saída do aplicativo de IA para ajudar a criar confiança na IA. Isso permite que os clientes reconheçam alucinações de modelo, identifiquem tentativas de uso indevido de LLM, como injeção de prompt maliciosa, evitem o vazamento de informações de identificação pessoal (PII) e detectem linguagem tóxica.

Rastreamento multimodelo: a Dynatrace mapeia dependências entre vários LLMs que funcionam em conjunto com pipelines de RAG (Retrieval Augmented Generation) ou estruturas agenciais para fornecer observabilidade de ponta a ponta de todo o sistema, não apenas das partes componentes. Isso dá às equipes o insight para verificar se as dependências estão interagindo perfeitamente para que possam oferecer experiências ideais ao usuário final.

Integrações de IA responsáveis: a Dynatrace ajuda as organizações com governança de IA, rastreando todas as entradas e saídas sem amostragem para fornecer uma trilha de auditoria de monitoramento e observabilidade, incluindo a documentação de quais dados de treinamento foram usados para um determinado modelo. Através do Dynatrace Grail, todos os dados podem ser consultados em tempo real e armazenados para referência futura.

De acordo com Stephen Elliot, vice-presidente do Grupo IDC, I&O e Operações em Nuvem, “a IA representa uma mudança transformacional na tecnologia e nos negócios. A observabilidade de dados e LLM são requisitos essenciais para criar e implantar soluções de IA confiáveis, confiáveis e econômicas. Esses recursos fornecem os insights críticos necessários para garantir que os modelos funcionem conforme o esperado, atendam aos objetivos de negócios e forneçam resultados para a organização. Os líderes de tecnologia se beneficiam do monitoramento da qualidade de seus dados em tempo real. Eles obtêm visibilidade e detecção de anomalias, inconsistências e desvios para ajudar a garantir que os dados usados para treinar e executar os modelos sejam precisos, completos e representativos do mundo real. Isso deve fazer parte de uma estratégia de observabilidade mais ampla para fornecer uma plataforma robusta e confiável que capacite as organizações a prevenir e resolver problemas como alucinações, desvios e degradação do desempenho.”