Custos ocultos da IA Generativa em uma análise focada no ROI empresarial

O investimento em Inteligência Artificial Generativa está se tornando uma prioridade para as organizações que buscam oportunidades de crescimento e inovação. No entanto, quando o foco no Retorno sobre Investimento (ROI) se intensifica, os custos de implementação da GenAI vão além da implantação dessa tecnologia, que, no primeiro instante, pode parecer uma opção muito econômica. Os líderes de TI precisam começar a considerar potenciais despesas adicionais que podem surgir, como o gerenciamento de mudanças e a execução de modelos maiores do que o previsto.

Com isso, Alexey Boas, CTO América Latina da Thoughworks, traz alguns insights relacionados a esses custos
que devem ser considerados:

Gestão de mudanças
Projetos de GenAI necessitam de uma gestão de mudanças robusta. Alterar a maneira como as pessoas realizam as suas tarefas requer preparação e adaptação organizacional, impactando diretamente o ROI.

Prontidão da IA e visibilidade de Dados
A preparação dos Dados para suportar aplicativos de IA é fundamental, pois eles devem ser acessíveis e limpos, o que pode levar a necessidades de atualização de infraestrutura, como migração para a Nuvem e adoção de plataformas de Dados modernas. Além disso, Dados acessíveis e bem organizados são essenciais para a efetividade das iniciativas de GenAI, considerando o fortalecimento de ROI.

Identificação de casos de uso e custos inevitáveis
É fundamental identificar casos de uso com o melhor potencial de ROI e os custos de GenAI que podem reduzir os ganhos financeiros.

Execução e inferência de modelos
Os custos de execução e inferência de modelos frequentemente superam os de treinamento dos modelos de IA. A precificação baseada em tokens, por exemplo, usada por fornecedores para chamadas de API, introduz uma incerteza significativa nas projeções de custos, complicando a determinação do custo real até que o aplicativo esteja em produção.

Conectando investimentos com a estratégia
É essencial que os investimentos em IA estejam alinhados com a estratégia mais ampla dos negócios organização. A incorporação de GenAI deve ser vista como parte de um plano estratégico maior, garantindo que os custos ocultos sejam equilibrados pela maximização dos benefícios em todas as áreas da empresa. Isso porque uma estratégia integrada de IA pode proporcionar uma visão abrangente, identificando sinergias e oportunidades de otimização que aprimorem o ROI global.