book_icon

AI Gateway for IBM API Connect promete desbloquear o poder da IA

Disponível em junho, este gateway de IA fornecerá um único ponto de controle para as organizações acessarem serviços de IA por meio de APIs de domínio público

AI Gateway for IBM API Connect promete desbloquear o poder da IA

A IBM anunciou o lançamento do AI Gateway for IBM API Connect, um recurso de sua plataforma de gerenciamento de API, que estará disponível até o final de junho e capacitará os clientes a acelerar sua jornada de IA. “Quando esse recurso for lançado, você poderá começar a gerenciar centralmente o watsonx.ai APIs, com a capacidade de gerenciar APIs LLM adicionais planejadas para o final deste ano”, disse Rashmi Kaushik, diretora de Produto, APIs e Gateways da IBM.

A IA generativa é uma tecnologia transformadora que muitas organizações estão experimentando ou já usando na produção para desbloquear a inovação rápida e impulsionar ganhos massivos de produtividade

A executiva explica que um gateway de IA fornece um único ponto de controle para as organizações acessarem serviços de IA por meio de APIs de domínio público e intermedeia a conectividade segura entre seus diferentes aplicativos e APIs de IA de terceiros dentro e fora da infraestrutura de uma organização. Ele atua como o gatekeeper para dados e instruções que fluem entre esses componentes. Um AI Gateway fornece políticas para gerenciar e controlar centralmente o uso de APIs de IA com seus aplicativos, bem como análises e insights importantes para ajudá-lo a tomar decisões mais rapidamente sobre as escolhas de LLM.

Entre os principais benefícios do AI Gateway for IBM API Connect estão:

Adoção mais rápida e responsável do GenAI: acesso de autoatendimento centralizado e controlável a APIs de IA corporativa para desenvolvedores.

Insights e gestão de custos: resolva custos inesperados ou excessivos para serviços de IA limitando a taxa de solicitações dentro de uma determinada duração e armazenando em cache as respostas de IA, use análises e painéis integrados para obter visibilidade do uso de APIs de IA em toda a empresa.

Governança e conformidade: ao canalizar o tráfego da API LLM por meio do AI Gateway, o cliente pode gerenciar centralmente o uso de serviços de IA por meio da aplicação de políticas, criptografia de dados, mascaramento de dados confidenciais, controle de acesso, trilhas de auditoria e muito mais, em apoio às suas obrigações de conformidade.

“A IA generativa é uma tecnologia transformadora que muitas organizações estão experimentando ou já usando na produção para desbloquear a inovação rápida e impulsionar ganhos massivos de produtividade. No entanto, vimos que esse ritmo vertiginoso de adoção deixou os líderes de negócios querendo mais visibilidade e controle sobre o uso corporativo do GenAI”, disse Rashmi.

Quando a executiva conversa com clientes sobre o uso do GenAI por sua organização, ela diz que faz as seguintes perguntas:

– Você tem visibilidade sobre quais serviços de IA de terceiros estão sendo usados em toda a sua empresa e para quais finalidades?

– Quanto sua empresa está pagando cumulativamente por assinaturas de LLM, incluindo inscrições por equipes e indivíduos, e esses custos são previsíveis e controláveis?

– Você é capaz de resolver vulnerabilidades comuns ao invocar LLMs, como vazamento de dados confidenciais, acesso não autorizado de usuários e violações de políticas?

Segundo Rashmi, todas essas perguntas podem ser respondidas se a empresa tiver um AI Gateway.

 

 

 

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *


As opiniões dos artigos/colunistas aqui publicados refletem exclusivamente a posição de seu autor, não caracterizando endosso, recomendação ou favorecimento por parte da Infor Channel ou qualquer outros envolvidos na publicação. Todos os direitos reservados. É proibida qualquer forma de reutilização, distribuição, reprodução ou publicação parcial ou total deste conteúdo sem prévia autorização da Infor Channel.