Plataforma Nvidia Edge AI EGX leva IA em tempo real

A Nvidia Enterprise anuncia dois produtos poderosos para sua plataforma Edge AI EGX, a EGX A100, para servidores comerciais maiores, e a pequena EGX Jetson Xavier NX, para servidores micro-edge – oferecendo processamento de IA de alto desempenho e seguro na edge.
Com a plataforma Edge AI Nvidia EGX, hospitais, lojas, fazendas e fábricas podem realizar o processamento em tempo real e a proteção das enormes quantidades de dados em transmissão a partir de trilhões de sensores edge. A plataforma possibilita a implantação, o gerenciamento e a atualização de frotas de servidores de forma segura e remota.
O acelerador convergido EGX A100 e o servidor micro-edge EGX Jetson Xavier NX foram criados para atender a diferentes necessidades de tamanho, custo e desempenho. Os servidores com a tecnologia EGX A100 podem gerenciar centenas de câmeras em aeroportos, por exemplo, enquanto o EGX Jetson Xavier NX foi desenvolvido para gerenciar várias câmeras em lojas de conveniência. O suporte nativo à nuvem garante que toda a linha EGX possa usar o mesmo software de IA otimizado para construir e implementar com facilidade aplicativos de IA.

“A fusão da IoT e da IA lançou a revolução do ‘tudo inteligente’”, diz Jensen Huang, fundador e CEO da Nvidia. “As grandes indústrias agora podem oferecer produtos e serviços conectados inteligentes, como a indústria de telefonia possui com o smartphone. A plataforma de edge de IA EGX da Nvidia transforma um servidor padrão em um mini data center seguro e nativo da nuvem. Com nossas estruturas de aplicativos de IA, as empresas podem criar serviços de IA que variam de varejo inteligente, fábricas robóticas a centrais de atendimento automatizadas.”
“Tanto a EGX A100 como EGX Jetson Xavier NX podem trazer um grande serviço no controle de filas em aeroportos ou para auxiliar a tendência de ‘self-checkout’ no varejo”, explica Marcio Aguiar, gerente sênior da Nvidia Enterprise para América Latina. “O Brasil tem um grande potencial para essas novas tecnologias por conta de seu tamanho populacional e também pela paixão do brasileiro por tendências tecnológicas.”
EGX A100 com tecnologia da arquitetura Ampere da Nvidia
A EGX A100 é o primeiro produto edge de IA baseado na arquitetura Ampere da Nvidia. À medida que a IA se move cada vez mais para a edge, as organizações podem incluir a EGX A100 em seus servidores para executar o processamento em tempo real e a proteção das enormes quantidades de dados de transmissão de sensores edge.
Ela combina o desempenho revolucionário da arquitetura Ampere da Nvidia com a rede acelerada e os recursos de segurança críticos do Nvidia Mellanox ConnectX-6 DX SmartNIC para transformar servidores padrão em supercomputadores de IA seguros e nativos na nuvem.
A Nvidia Ampere, arquitetura de GPU da oitava geração da empresa, oferece o maior salto de geração em desempenho para uma ampla variedade de cargas de trabalho de computação intensa, incluindo inferência de IA e aplicativos 5G em execução na edge. Isso permite que a EGX A100 processe dados de transmissão de grandes volumes em tempo real a partir de câmeras e outros sensores de IoT para gerar informações mais rápidas e mais eficientes nos negócios.
“Dados, IA e aplicativos inteligentes nativos da nuvem estão transformando a vantagem da empresa em todos os setores”, conta Chris Wright, vice-presidente sênior e diretor de tecnologia da Red Hat. “Os novos aceleradores convergentes EGX A100 da Nvidia combinados com drivers pré-compilados para o Red Hat Enterprise Linux e operadores certificados para o Red Hat Openshift simplificam a implantação e o gerenciamento do hardware e ajudam nossos clientes em comum a lidar com algumas das mais exigentes cargas de trabalho de IA, edge e 5G.”
Com uma placa de rede Mellanox ConnectX-6 DX, a EGX A100 pode receber mais de 200Gbps de dados e enviá-los diretamente para a memória da GPU para processamento de IA ou sinal de 5G. Com a introdução da nova tecnologia de transporte disparado pelo tempo da Nvidia Mellanox para telecomunicações (5T para 5G), a EGX A100 é o primeiro acelerador 5G definido por software capaz de atender aos casos de uso mais sensíveis à latência de 5G. Isso proporciona a mais avançada plataforma de IA e 5G para tomar decisões inteligentes em tempo real nos pontos de ação: lojas, hospitais e pavilhões de fábricas.
“Estamos colaborando com a Nvidia para construir a rede de acesso via rádio 5G virtualizada de alto desempenho da Mavenir e acelerar a rede principal de pacotes 5G”, explica Pardeep Kohli, presidente e CEO da Mavenir. “Isso nos permitirá oferecer uma ampla gama de novos serviços 5G acelerados por GPU, de AI/ML a aplicativos de AR/VR.”
EGX Jetson Xavier NX: pequeno, mas poderoso
O EGX Jetson Xavier NX é o menor e mais potente supercomputador de IA do mundo para microservidores e dispositivos de edge IoT, com mais de 20 soluções disponíveis agora a partir de parceiros de ecossistema. Ele contém a potência de um SoC Nvidia Xavier em um módulo do tamanho de um cartão de crédito. O EGX Jetson Xavier NX, executando a pilha de software EGX nativa na nuvem, pode processar rapidamente dados de transmissão a partir de sensores de alta resolução.
O módulo com eficiência energética oferece até 21 TOPS a 15 W ou 14 TOPS a 10 W. Como resultado, o EGX Jetson Xavier NX abre o caminho para dispositivos de computação edge incorporados que exigem um desempenho maior para oferecer suporte a cargas de trabalho de IA, mas são limitados por tamanho, peso, orçamento de energia ou custo.
“A Nvidia Jetson e a Nvidia EGX estão nos ajudando a transformar o varejo, tornando a experiência de self-checkout mais rápida e segura”, explica Matt Scott, cofundador e CEO da Malong Technologies. “Com o poder da IA, por meio do nosso conjunto de ofertas RetailAI, agora é possível reconhecer com precisão centenas de milhares de produtos em tempo real para criar experiências de compra mais integradas e protegidas, facilmente implementáveis em larga escala. Continuamos a explorar a poderosa linha de produtos da Nvidia para descobrir novas maneiras de aumentar a satisfação do cliente e diminuir o encolhimento do varejo, trazendo mais inteligência para a edge.”

A arquitetura nativa em nuvem da plataforma edge de IA da EGX permite que ela execute software em contêineres para suportar uma variedade de cargas de trabalho aceleradas por GPUs  

Software totalmente otimizado na nuvem em toda a plataforma edge de IA da EGX
A arquitetura nativa em nuvem da plataforma edge de IA da EGX permite que ela execute software em contêineres para suportar uma variedade de cargas de trabalho aceleradas por GPUs.
As estruturas de aplicativos da Nvidia incluem Clara, para a área da saúde, Aerial, para empresas de telecomunicações, Jarvis, para IA de conversação, Isaac, para robótica, e Metropolis, para cidades inteligentes, varejo, transporte e muito mais. Elas podem ser usadas juntas ou individualmente e abrir novas possibilidades para uma variedade de casos de uso de edge.
Com o suporte para tecnologias nativas em nuvem agora disponível em toda a linha EGX da Nvidia, os fabricantes de máquinas inteligentes e desenvolvedores de aplicativos de IA podem criar e implementar recursos de alta qualidade e definidos por software em dispositivos edge e integrados que são direcionados a robótica, cidades inteligentes, saúde, IoT e muito mais.
Suporte global para o ecossistema EGX
Os servidores edge com tecnologia Nvidia EGX estão disponíveis a partir dos fornecedores de computação corporativa global Atos, Dell Technologies, Fujitsu, GIGABYTE, Hewlett Packard Enterprise, IBM, Inspur, Lenovo, Quanta/QCT, and Supermicro. Eles também estão disponíveis nos principais fabricantes de sistemas de servidores e IoT, como Advantech e ADLINK.
Esses servidores, juntamente com as estruturas de aplicativos otimizadas, podem ser usados por fornecedores de software, como Whiteboard Coordinator, Deep Vision AI, IronYun, Malong and SAFR by RealNetworks, para criar e implementar soluções de serviços de saúde, varejo, manufatura e cidades inteligentes.
Disponibilidade
EGX A100 estará disponível no final do ano. Servidores micro-edge prontos para implantar baseados no EGX Jetson Xavier NX já estão disponíveis para empresas (alguns com representantes no Brasil) que desejam criar sistemas de edge de produção em alta escala.