Siemens simplifica desenvolvimento de aceleradores de rede neural

A Siemens Digital Industries Software anunciou o software Catapult AI NN para síntese de alto nível (HLS) de aceleradores de rede neural em circuitos integrados específicos de aplicativos (ASICs) e SoCs (System-on-a-chip). Catapult AI NN é uma solução completa que começa com uma descrição de rede neural a partir de uma estrutura de IA, converte-a em C++ e sintetiza-a em um acelerador RTL em Verilog ou VHDL para implementação em silício.

O Catapult AI NN reúne o hls4ml, um pacote de código aberto para aceleração de hardware de aprendizado de máquina, e o software Catapult HLS da Siemens para síntese de alto nível. Desenvolvido em estreita colaboração com a Fermilab, um laboratório do Departamento de Energia dos EUA, e outros colaboradores líderes do hls4ml, o Catapult AI NN atende aos requisitos exclusivos do projeto do acelerador de aprendizado de máquina para potência, desempenho e área em silício personalizado.

“O processo de transferência e conversão manual de um modelo de rede neural em uma implementação de hardware é muito ineficiente, demorado e propenso a erros, especialmente quando se trata de criar e verificar variantes de um acelerador de hardware adaptado a desempenho, potência e área específicos”, disse Mo Movahed, vice-presidente e gerente-geral de Design, Verificação e Potência de Alto Nível da Siemens Digital Industries Software. “Ao capacitar cientistas e especialistas em IA para alavancar estruturas de IA padrão da indústria, como o design de modelos de redes neurais, e ao sintetizar perfeitamente esses modelos em projetos de hardware otimizados para potência, desempenho e área (PPA), estamos abrindo um novo reino de possibilidades para engenheiros de software de IA e aprendizado de máquina. Nossa nova solução Catapult AI NN permite que os desenvolvedores automatizem e implementem seus modelos de rede neural para PPA ideal simultaneamente durante o processo de desenvolvimento de software, inaugurando uma nova era de eficiência e inovação no desenvolvimento de IA”, completou.

À medida que a IA em tempo de execução e as tarefas de aprendizado de máquina migram do Data Center para tudo, de aparelhos de consumo a dispositivos médicos, há uma necessidade crescente de hardware de IA de “tamanho certo” para minimizar o consumo de energia, reduzir o custo e maximizar a diferenciação do produto final. No entanto, a maioria dos especialistas em aprendizado de máquina está mais confortável trabalhando com ferramentas como TensorFlow, PyTorch ou Keras, em vez de sintetizar C++, Verilog ou VHDL. Tradicionalmente, não há um caminho fácil para os especialistas em IA acelerarem seus aplicativos de aprendizado de máquina em uma implementação ASIC ou SoC do tamanho certo.

A iniciativa hls4ml destina-se a ajudar a preencher essa lacuna, gerando C++ a partir de uma rede neural descrita em estruturas de IA como TensorFlow, PyTorch ou Keras. O C++ pode então ser implantado para uma implementação FPGA, ASIC ou SoC.

O Catapult AI NN estende os recursos do hls4ml ao design ASIC e SoC. Ele inclui uma biblioteca dedicada de funções especializadas de aprendizado de máquina C++ que são adaptadas ao design ASIC. Usando essas funções, os designers podem otimizar o PPA fazendo compensações de latência e recursos em implementações alternativas do código C++. Além disso, os designers agora podem avaliar o impacto de diferentes projetos de redes neurais para determinar a melhor estrutura de rede neural para hardware.

“As aplicações de detectores de partículas têm restrições de IA de Borda extremamente rigorosas”, disse Panagiotis Spentzouris, diretor associado do Fermilab para Tecnologias Emergentes. “Por meio de nossa colaboração com a Siemens, conseguimos desenvolver o Catapult AI NN, uma estrutura de síntese que aproveita a experiência de nossos cientistas e especialistas em IA sem exigir que eles se tornem designers ASIC. Além disso, essa nova estrutura poderosa também é ideal para especialistas em hardware experientes”, finalizou.