Nvidia Fleet Command facilita a implementação de IA na Borda

A Nvidia anunciou que o Nvidia Fleet Command, um serviço de Nuvem para implementação, gerenciamento e dimensionamento de aplicativos de IA na Borda, agora inclui novos recursos. Com o uso de IA na Borda, as organizações podem ter até milhares de pontos de presença independentes, que devem ser gerenciados por equipes de TI – às vezes em locais distantes, como plataformas de petróleo, medidores climáticos, lojas de varejo distribuídas ou instalações industriais. O Nvidia Fleet Command oferece uma plataforma simples e gerenciada para orquestração de contêineres que facilita o provisionamento e a implementação de aplicativos e sistemas de IA em milhares de ambientes distribuídos, tudo a partir de um único console baseado em Nuvem.

De acordo com a empresa, a implementação, porém, é apenas o primeiro passo no gerenciamento de aplicativos de IA na borda. A otimização desses aplicativos é um processo contínuo que envolve a aplicação de patches, a instalação de novos aplicativos e a reinicialização de sistemas de Borda. Para tornar esses fluxos de trabalho contínuos em um ambiente gerenciado, o Fleet Command agora oferece gerenciamento remoto avançado, provisionamento de GPU de várias instâncias e integrações adicionais com ferramentas de colaboradores do setor.

Os administradores de TI agora podem acessar sistemas e aplicativos com recursos de segurança sofisticados. O gerenciamento remoto no Fleet Command oferece controles de acesso e sessões cronometradas, eliminando vulnerabilidades que acompanham as conexões VPN tradicionais. Os administradores podem monitorar com segurança a atividade e solucionar problemas em pontos de presença remotos no conforto de seus escritórios.

Os ambientes de Borda são extremamente dinâmicos, o que significa que os administradores responsáveis ​​pelas implementações de IA de Borda precisam ser altamente ágeis para acompanhar as mudanças rápidas e garantir pouco tempo de inatividade no processo. Isso torna o gerenciamento remoto um recurso crítico para cada implementação.

Segundo explica a Nvidia, GPU de várias instâncias, ou MIG particiona uma GPU Nvidia em várias instâncias independentes. O MIG agora está disponível no Fleet Command, permitindo que os administradores atribuam facilmente aplicativos a cada instância a partir da interface de usuário da plataforma. Ao permitir que as organizações executem vários aplicativos de IA na mesma GPU, o MIG permite que as organizações dimensionem corretamente suas implantações e tirem o máximo proveito de sua infraestrutura de borda.

Outro recurso, o LaunchPad, fornece acesso imediato e de curto prazo a uma instância do Fleet Command para implementar e monitorar facilmente aplicativos reais em servidores reais usando laboratórios práticos que orientam os usuários durante todo o processo – desde o provisionamento e otimização de infraestrutura até a implementação de aplicativos para diversos casos de uso, como visão IA na Borda de uma rede.

Serviço
www.nvidia.com