Estudo da ISG detalha os desafios da adoção de IA generativa

O novo estudo ISG Provider Lens Analytics Services revela um significativo aumento na implementação de Inteligência Artificial (IA) em diversos departamentos, processos e setores empresariais. A surpresa reside na rapidez e na abrangência com que essa expansão ocorreu. O relatório produzido e distribuído pela parceria TGT ISG constatou que grandes e pequenos prestadores de serviços compartilharam casos de sucesso, evidenciando ganhos precisos de produtividade e aprimoramento de processos, o que demonstra maturidade no mercado de IA.

“Os líderes da indústria destacam-se pela clareza na visão de como suas soluções transformam os negócios dos clientes, redirecionando a atenção para serviços de gestão e governança de dados, com destaque em um quadrante dedicado. Se formou uma percepção geral, após tentativas frustradas anteriores, de que o maior gargalo para o sucesso das organizações orientadas a dados são os processos de governança, tais como privacidade, segurança, conformidade, qualidade, gerenciamento de dados mestres, linhagem e observabilidade”, explica Marcio Tabach, distinguished analyst da TGT ISG e autor do estudo.

De acordo com o relatório, os fornecedores apresentaram soluções baseadas em IA, abrangendo desde a otimização de Sales and Operations (S&OP) até o Analytics de recursos humanos, passando por atendimento ao cliente e planejamento financeiro. Virtualmente, todos os setores e processos agora têm à disposição soluções capazes de automatizar operações, reduzir custos, mitigar riscos, gerar receitas adicionais e proporcionar suporte a decisões mais precisas.

Há uma tendência de uso de arquitetura descentralizada e governada para análises e treinamentos de modelos de Machine Learning (ML), conhecida como “Data Mesh”, que ganha ampla adesão em empresas brasileiras de diversos setores e portes. Paralelamente, o impacto da IA generativa, exemplificado pelo ChatGPT, marca 2023 como o ano de sua apresentação ao mercado, prometendo revolucionar ambientes de negócios. “A máxima de que utilizar dados sem qualidade irá produzir modelos sem qualidade parece, finalmente, ter sido amplamente aceita. Muitos prestadores relatam a dificuldade de lidar com ecossistemas de dados caóticos, redundantes, obsoletos e presos em aplicações legadas, colocando a governança de dados no centro de suas ofertas e potencialmente em suas maiores contribuições na jornada de dados dos clientes”, explica o autor.

Muitos prestadores relatam a dificuldade de lidar com ecossistemas de dados caóticos, redundantes, obsoletos e confinados em aplicações legadas, colocando a governança de dados no centro de suas ofertas e potencialmente em suas maiores contribuições na jornada de dados dos clientes. Neste contexto, ganham importância aplicações dedicadas a tratar exclusivamente dos ativos de dados, como as Cloud Data Platforms, notadamente Databricks e Snowflake, ou em nuvens públicas (AWS, Microsoft Azure e Google Cloud Platform).

“Em vez de promover as análises dos dados nos ambientes das plataformas onde os dados são gerados como, por exemplo, SAP, Salesforce, entre outros, os clientes têm preferido construir abrangentes Data Lakes que se integram com essas aplicações, permitindo a governança de forma centralizada e o cruzamento de fontes diferentes de dados. Muitos concordam que ainda existem muitas incertezas e confusão com relação às diferenças entre IA generativa e o próprio conceito de IA, agora chamada de ‘IA tradicional’. Diversos prestadores estão desenvolvendo PoCs de modelos de IA generativa nas empresas, ou fazendo testes para uso interno em suas próprias organizações”, observa o autor.

No primeiro cenário, as aplicações são empregadas na gestão do conhecimento e na área de atendimento ao cliente. Na gestão do conhecimento, abrange-se o “aprendizado” de vasta documentação técnica, transformando a ferramenta em uma espécie de “guia” do conhecimento da empresa. Quanto à área de atendimento, os fornecedores estão aprimorando chatbots, tornando-os mais inteligentes, amigáveis e aptos a lidar com diversos formatos, como texto, áudio e imagem.

Já no contexto do uso interno, os prestadores presentes no relatório estão conduzindo testes nos modelos para a geração automática de códigos de programação, especialmente em situações como a migração de plataformas e nos processos de testes e documentação de aplicações. Os principais desafios identificados para a adoção da IA generativa foram a governança e privacidade de dados, propriedade intelectual, custos ocultos e acurácia.

Em maio de 2023, a Samsung proibiu o uso de IA generativa nas redes internas por receio de vazamento de dados. Ela não foi a primeira, uma vez que JPMorgan proibiu o uso da tecnologia, sendo logo seguida por Bank Of America, Citigroup e Deutsche Bank, assim como alguns órgãos público pelo mundo. “Os prestadores apontaram como solução para esse problema o uso de um domínio próprio, a fim de evitar que dados dos clientes inseridos nos modelos sejam aprendidos pelo modelo disponível a outras empresas. No entanto, a privacidade de dados deve ser promovida também intra-organizacional, pois ela ainda suscita preocupações no uso de modelos de IA generativa, e os prestadores destacam que toda a governança de dados se tornou mais complexa com a adoção da IA generativa”, argumenta o autor.

Um outro caso chamou atenção um pouco mais perto do final do ano, quando a Justiça dos Estados Unidos recusou o pedido de direitos autorais de Stephan Thaler, por uma imagem criada pela IA generativa Dabus, o qual ele próprio criou. Na ocasião, a juíza concluiu que as inteligências artificiais generativas não possuem capacidade inventiva ao gerar textos, imagens e vídeos totalmente inéditos. O estudo explica que os modelos de fundação, ao aprenderem com conteúdo online para gerar novos materiais, levam os proprietários originais a buscar seus direitos sobre o conteúdo gerado. A ausência de jurisprudência e legislação específica requer uma análise cautelosa por parte das consultorias antes de expor seus clientes ao risco de litígios judiciais. O treinamento desses modelos envolve grandes volumes de dados, consumo energético expressivo e custos elevados.

“Os prestadores ainda carecem de uma visão clara sobre o custo total das soluções de IA generativa para seus clientes, gerando preocupações semelhantes às primeiras migrações para a Nuvem, onde as empresas enfrentaram aumentos substanciais nos custos de infraestrutura devido a um planejamento incompleto”, comenta o autor.

Diante disso, há um debate sobre a utilização de redes on-premises para retrabalhar os modelos e mitigar custos ocultos. O estudo destaca que o desafio central na implementação da IA generativa está na sua precisão, que ocasionalmente resulta em “alucinações” (confabulação e ilusão) – respostas equivocadas causadas por treinamento com dados inadequados (noisy training) ou dados que refletem um contexto excessivamente específico (overfitting). Nessas circunstâncias, o modelo não consegue identificar corretamente o contexto para gerar suas respostas. Com esse risco ainda presente, a disseminação dos modelos de IA generativa vai necessitar de supervisão humana e capacitação dos usuários.

O relatório ISG Provider Lens™ Analytics Services de 2023 para o Brasil avalia as capacidades de 42 fornecedores em seis quadrantes: Data Science Services for Large Enterprises, Data Science Services for Midmarket, Data Engineering Services for Large Enterprises, Data Engineering Services for Midmarket, Data Management Services for Large Enterprises e Data Management Services for Midmarket.

O relatório nomeia Accenture, Capgemini, Deal, EY, Keyrus, Logicalis, MadeinWeb, NTT DATA e Rox Partner como Líderes em três quadrantes cada, enquanto Blueshift, Compass UOL, Dedalus, Kumulus e Stefanini são nomeados como Líderes em dois quadrantes cada. A3Data, BRQ, Deloitte, IBM, UniSoma e Wipro são apontadas como Líderes em um quadrante cada.

Além disso, a ST IT Cloud é nomeada como Rising Star — uma empresa com um “portfólio promissor” e “alto potencial futuro” pela definição do ISG — em dois quadrantes, enquanto CompassUOL, DXC Technology, Peers e Stefanini são nomeadas como Rising Stars em um quadrante cada.

Serviço
www.isg-one.com