AI Gateway for IBM API Connect promete desbloquear o poder da IA

A IBM anunciou o lançamento do AI Gateway for IBM API Connect, um recurso de sua plataforma de gerenciamento de API, que estará disponível até o final de junho e capacitará os clientes a acelerar sua jornada de IA. “Quando esse recurso for lançado, você poderá começar a gerenciar centralmente o watsonx.ai APIs, com a capacidade de gerenciar APIs LLM adicionais planejadas para o final deste ano”, disse Rashmi Kaushik, diretora de Produto, APIs e Gateways da IBM.

A executiva explica que um gateway de IA fornece um único ponto de controle para as organizações acessarem serviços de IA por meio de APIs de domínio público e intermedeia a conectividade segura entre seus diferentes aplicativos e APIs de IA de terceiros dentro e fora da infraestrutura de uma organização. Ele atua como o gatekeeper para dados e instruções que fluem entre esses componentes. Um AI Gateway fornece políticas para gerenciar e controlar centralmente o uso de APIs de IA com seus aplicativos, bem como análises e insights importantes para ajudá-lo a tomar decisões mais rapidamente sobre as escolhas de LLM.

Entre os principais benefícios do AI Gateway for IBM API Connect estão:

Adoção mais rápida e responsável do GenAI: acesso de autoatendimento centralizado e controlável a APIs de IA corporativa para desenvolvedores.

Insights e gestão de custos: resolva custos inesperados ou excessivos para serviços de IA limitando a taxa de solicitações dentro de uma determinada duração e armazenando em cache as respostas de IA, use análises e painéis integrados para obter visibilidade do uso de APIs de IA em toda a empresa.

Governança e conformidade: ao canalizar o tráfego da API LLM por meio do AI Gateway, o cliente pode gerenciar centralmente o uso de serviços de IA por meio da aplicação de políticas, criptografia de dados, mascaramento de dados confidenciais, controle de acesso, trilhas de auditoria e muito mais, em apoio às suas obrigações de conformidade.

“A IA generativa é uma tecnologia transformadora que muitas organizações estão experimentando ou já usando na produção para desbloquear a inovação rápida e impulsionar ganhos massivos de produtividade. No entanto, vimos que esse ritmo vertiginoso de adoção deixou os líderes de negócios querendo mais visibilidade e controle sobre o uso corporativo do GenAI”, disse Rashmi.

Quando a executiva conversa com clientes sobre o uso do GenAI por sua organização, ela diz que faz as seguintes perguntas:

– Você tem visibilidade sobre quais serviços de IA de terceiros estão sendo usados em toda a sua empresa e para quais finalidades?

– Quanto sua empresa está pagando cumulativamente por assinaturas de LLM, incluindo inscrições por equipes e indivíduos, e esses custos são previsíveis e controláveis?

– Você é capaz de resolver vulnerabilidades comuns ao invocar LLMs, como vazamento de dados confidenciais, acesso não autorizado de usuários e violações de políticas?

Segundo Rashmi, todas essas perguntas podem ser respondidas se a empresa tiver um AI Gateway.