Nova plataforma da Cloudflare permite criar aplicativos de IA em sua rede

A Cloudflare, empresa de conectividade em Nuvem, anunciou que os desenvolvedores agora podem criar aplicativos de IA full-stack em sua rede por meio da Workers AI. A plataforma da Cloudflare fornecerá uma experiência completa para desenvolvedores que criam aplicações de IA, permitindo inferência rápida e acessível sem a necessidade de gerenciar a infraestrutura. À medida que todas as empresas, desde startups até corporações, buscam ampliar seus serviços com Inteligência Artificial, a plataforma da Cloudflare está capacitando os desenvolvedores com a velocidade necessária para enviar rapidamente um aplicativo pronto para produção, com segurança, conformidade e velocidade integradas.

Os líderes empresariais – desde empresas Fortune 1000 que procuram aumentar os seus serviços com IA, até startups de IA com a missão de construir a próxima geração de aplicação – querem fornecer aplicações alimentadas por IA em escala de produção. As organizações estão tentando agir rapidamente para obter valor rapidamente. No entanto, eles enfrentam desafios como custos crescentes e opacos para implementar a IA e garantir que os dados dos clientes permaneçam privados e em conformidade com os regulamentos. Os desenvolvedores estão enfrentando uma série de novos fornecedores, exigindo que eles entendam novas ferramentas rapidamente e conectem muitos serviços complexos e díspares. Os líderes empresariais procuram otimizar custos em meio a tecnologias, ferramentas e pessoal caros.

“ A Cloudflare tem toda a infraestrutura de que os desenvolvedores precisam para criar aplicativos escalonáveis ​​baseados em IA e agora pode fornecer inferência de IA o mais próximo possível do usuário. Estamos investindo para facilitar que todos os desenvolvedores tenham acesso a ferramentas poderosas e acessíveis para construir o futuro”, disse Matthew Prince, CEO e cofundador da Cloudflare. “A Workers AI capacitará os desenvolvedores a criar experiências de IA prontas para produção de forma eficiente e acessível, e em dias, em vez do que normalmente leva semanas ou até meses para equipes inteiras”, comentou.

A primeira IA sem servidor em escala do setor

A Workers AI oferece uma maneira simples e acessível para os desenvolvedores executarem modelos de IA na rede global da Cloudflare. Por meio de parcerias significativas, a Cloudflare agora fornecerá acesso a GPUs executadas na enorme rede global da Cloudflare para garantir que a inferência de IA possa acontecer perto dos usuários para uma experiência do usuário final de baixa latência. Quando combinado com o conjunto de localização de dados para ajudar a controlar onde eles são inspecionados, a plataforma Workers AI também ajudará os clientes a antecipar possíveis requisitos regulatórios e de conformidade que provavelmente surgirão à medida que os governos criam políticas em torno do uso de IA. A abordagem de privacidade da Cloudflare para o desenvolvimento de aplicativos pode ajudar as empresas a cumprirem suas promessas aos clientes, garantindo que os dados usados ​​para inferência não sejam usados ​​para treinamento de LLMs. Atualmente, a Cloudflare oferece suporte a um catálogo de modelos para ajudar os desenvolvedores a começar rapidamente, com casos de uso que incluem LLM, fala em texto, classificação de imagens, análise de sentimento e muito mais.

O novo banco de dados vetorial da Cloudflare, Vectorize, permite que os desenvolvedores criem aplicativos de IA full-stack inteiramente na Cloudflare: desde gerar seus embeddings com os modelos integrados na Workers AI e indexá-los no Vectorize, até consultá-los e armazenar dados de origem no R2. Com Workers AI e Vectorize, os desenvolvedores não precisam mais colar várias peças para capacitar seus aplicativos com IA e aprendizado de máquina – eles podem fazer tudo em uma plataforma.

Vectorize também se beneficia da rede global da Cloudflare, permitindo que consultas de vetores aconteçam mais perto dos usuários, reduzindo a latência e o tempo geral de inferência. Ele também se integra ao ecossistema mais amplo de IA, permitindo que os desenvolvedores armazenem embeddings gerados com OpenAI e Cohere, para que as equipes possam trazer embeddings que já possuem e ainda se beneficiar do Vectorize quando se trata de dimensionar aplicativos de IA para produção.

Observabilidade e escala para IA

A Cloudflare também está introduzindo o AI Gateway para tornar os aplicativos de IA mais confiáveis, observáveis ​​e escaláveis. De acordo com as últimas previsões da IDC, espera-se que os gastos com IA aumentem para US$ 154 bilhões este ano e para mais de US$ 300 bilhões em 2026. No entanto, os desenvolvedores e líderes de alto escalão não têm como entender como o dinheiro está sendo gasto em IA. infraestrutura, ou quantas e de onde as consultas estão acontecendo.

Os desenvolvedores devem ser capazes de se concentrar no que estão construindo, não na infraestrutura, no dimensionamento, nos custos ou nas peças de observabilidade por trás disso. O AI Gateway fornecerá aos desenvolvedores recursos de observabilidade para entender o tráfego de IA, como número de solicitações, número de usuários, custo de execução do aplicativo e duração das solicitações. Além disso, os desenvolvedores podem gerenciar custos com cache e limitação de taxa. Com o cache, os clientes poderão armazenar respostas em cache de perguntas repetidas, reduzindo a necessidade de fazer constantemente diversas chamadas para APIs caras. A limitação de taxa ajudará a gerenciar os atores mal-intencionados e o tráfego pesado, a fim de gerenciar o crescimento e os custos, dando aos desenvolvedores mais controle sobre como dimensionam seus aplicativos.

Serviço
www.cloudflare.com