MediaTek e Meta desenvolvem IA generativa para dispositivos de Borda

A MediaTek, empresa mundial de semicondutores, anunciou que está trabalhando em estreita colaboração com o Llama 2 da Meta, Modelo de Linguagem Grande (LLM) de código aberto concorrente do ChatGPT. Utilizando o LLM da Meta, bem como as mais recentes APUs e a plataforma NeuroPilot AI da MediaTek, a empresa pretende construir um ecossistema de computação de Borda completo, projetado para acelerar o desenvolvimento de aplicativos de IA em smartphones, IoT, veículos, casas inteligentes e outros dispositivos de Borda.

Atualmente, a maior parte do processamento de IA generativa é realizada por meio de computação em Nuvem. No entanto, o uso de modelos Llama 2 pela MediaTek permitirá que aplicativos de IA generativa também sejam executados diretamente no dispositivo. Isso oferece diversas vantagens para desenvolvedores e usuários, incluindo desempenho contínuo, maior privacidade, melhor segurança e confiabilidade, menor latência, capacidade de trabalhar em áreas com pouca ou nenhuma conectividade e menor custo operacional.

Para realmente aproveitar a tecnologia de IA generativa no dispositivo, os fabricantes de dispositivos de Borda precisarão adotar alta computação, processadores IA de baixo consumo de energia e conectividade mais rápida e confiável para aprimorar os recursos de computação. Cada SoC para smartphone 5G com tecnologia MediaTek enviado hoje é equipado com APUs projetadas para executar uma ampla variedade de recursos de IA generativa, como Redução de Ruído IA, Super Resolução IA, IA MEMC e muito mais.

Além disso, o chipset principal de próxima geração da MediaTek, a ser lançado ainda este ano, apresentará uma pilha de software otimizada para executar o Llama 2, bem como uma APU atualizada com aceleração de backbone Transformer, acesso reduzido à área de cobertura e uso de largura de banda DRAM, aprimorando ainda mais o LLM e desempenho do AIGC. Esses avanços facilitam um ritmo acelerado para a criação de casos de uso para IA generativa no dispositivo.

“A crescente popularidade da IA ​​generativa é uma tendência significativa na Transformação Digital, e nossa visão é fornecer à empolgante comunidade de desenvolvedores e usuários do Llama 2 as ferramentas necessárias para inovar totalmente no espaço de IA”, disse JC Hsu, vice-presidente sênior corporativo, presidente e gerente-geral da Unidade de Negócios de Comunicações Sem Fio da MediaTek. “Através da nossa parceria com a Meta, podemos fornecer hardware e software com muito mais capacidade do que nunca”, afirmou.

A MediaTek espera que os aplicativos de IA baseados no Llama 2 estejam disponíveis para smartphones equipados com o principal SoC da próxima geração, programado para chegar ao mercado até o final do ano.

Serviço
www.mediatek.com