Accenture investe na Martian para levar roteamento dinâmico de LLM aos clientes

A Accenture anunciou que realizou um investimento, por meio da Accenture Ventures, na Martian, uma empresa de tecnologia que construiu um roteador Large Language Model (LLM) com patente pendente. Para qualquer prompt, o roteador da Martian encontrará e usará o LLM que dará aos usuários o melhor resultado com o menor custo. Como parte desse investimento, a Accenture planeja integrar a oferta de roteador de modelo avançado da Martian em seus serviços proprietários de “switchboard” que podem personalizar grandes modelos de linguagem (LLMs) para fontes de dados específicas e casos de uso para maior impacto dos sistemas de IA.

A rápida expansão dos sistemas de IA e dos grandes modelos de linguagem criou um cenário complexo onde cada modelo apresenta compensações únicas em desempenho, custo e velocidade. O roteador de modelos da Martian aborda esses desafios pesquisando em um vasto número de LLMs para rotear dinamicamente os prompts para o modelo que produzirá os resultados da mais alta qualidade com base em desempenho específico e requisitos técnicos para cada empresa. O roteador também melhora a confiabilidade; os prompts são automaticamente redirecionados para outros provedores quando um modelo ou provedor fica indisponível, reduzindo significativamente o tempo de inatividade.

“Muitos dos nossos clientes estão buscando colher os benefícios da IA ​​generativa de uma forma responsável que leve em conta requisitos personalizados, desempenho e custo”, disse Lan Guan, diretor de IA da Accenture. “Os recursos de switchboard services da Accenture e o roteamento dinâmico de LLM da Martian simplificam a experiência do usuário e permitirão que as empresas experimentem IA generativa e LLMs para encontrar o ajuste perfeito para suas necessidades de negócios”, completou.

Lançado em novembro de 2023, o switchboard services da Accenture permite que os clientes testem, avaliem, implemdentem e controlem a combinação mais potente de LLMs para suas necessidades. Integrando os recursos dinâmicos do roteador da Martian, os clientes poderão abrir o acesso a sistemas de IA com modelos personalizados adaptados a solicitações e requisitos exclusivos, garantindo desempenho ideal e economia. Novos LLMs serão adicionados e analisados automaticamente à medida que estiverem disponíveis, ajudando a garantir que os resultados sejam precisos e atuais. O switchboard services também podem ser aplicados a tecnologias emergentes, como quântica.

“Estamos sempre explorando maneiras de acelerar nossa liderança na aplicação da tecnologia de IA generativa para criar e proteger o crescimento e a relevância para os clientes, com a criatividade no centro”, disse Dan Garrison, diretor de Tecnologia da Accenture Song. “Acreditamos que a nova abordagem e os recursos da Martian podem ajudar nossos clientes e pessoas a construir sistemas dinâmicos de IA adequados para hoje e amanhã.”

“A grande maioria das empresas que criam aplicativos de IA generativa está em estágios iniciais e descobrindo que a precisão da saída geralmente é muito baixa para justificar a entrada em produção. Ao integrar nossa tecnologia ao switchboard services da Accenture, podemos aumentar substancialmente a precisão para que as empresas vejam resultados de qualidade que excedam o limite de produção. A tecnologia e a experiência da Accenture serão essenciais à medida que a Martian continua a crescer e simplificar o gerenciamento de grandes modelos de linguagem para empresas”, disse Shriyash Upadhyay, cofundador da Martian.

A Martian é a mais recente empresa a se juntar ao Project Spotlight da Accenture Ventures, um programa de engajamento e investimento focado em trabalhar com empresas que criam ou aplicam tecnologias corporativas disruptivas. O Project Spotlight traz startups promissoras para a rede de inovação da Accenture, dando-lhes exposição a problemas reais de negócios que estamos resolvendo para nossos clientes e ajudando-os a adaptar, refinar e dimensionar suas soluções para obter o máximo impacto.