Redes neurais com processamento no Snapdragon

31/08/2017

A Qualcomm® anunciou o lançamento de uma SDK específica para processamento neural e deep learning, chamado de Snapdragon™ Neural Processing Engine. Ele tem suporte nos processadores Qualcomm® Snapdragon™ 820, 835, 625, 626, 650, 652, 653, 660 e 630. Os processadores Snapdragon™ da série 820 e superiores já possuem suporte em hardware a esse produto, os demais terão suporte nos próximos meses.

De acordo com a Qualcomm, estas são as características desse SDK:

Aceleração de execução de redes neurais recorrentes e convolucionais no dispositivo, usando a CPU, GPU e DSP do Snapdragon. Neste caso o Qualcomm® Kryo CPU, o Qualcomm® Adreno GPU e o Qualcomm® Hexagon DSP;
Otimização do uso dos recursos do chip buscando otimização de consumo de energia;
Suporte para modelos de frameworks conhecidos como Caffe, Caffe2 ou TensorFlow e também ferramentas de software para conversão de modelos.

Funciona da seguinte maneira: O SDK do Neural Processing Engine não apenas define diversas bibliotecas de redes neurais para o uso dos desenvolvedores, ele permite que o desenvolvedor crie e treine sua rede neural usando frameworks conhecidos e então o modelo roda de forma distribuída utilizando o melhor da performance da CPU, GPU e DSP do Snapdragon. O que vai ser executado no processador é um Container de Deep Learning (ou um .dlc), que é arquivo do modelo que foi já projetado e treinado. A ferramenta fornece estatísticas sobre o que não é suportado para aceleração do Container e isso pode ser ajustado da melhor forma pelo desenvolvedor. Veja a figura abaixo que explica como isso acontece.

redes neurais snapdragon - Criação e treinamento da rede neural usando frameworks — Figura 1 – Criação e treinamento da rede neural usando frameworks

Ao permitir que operações matemáticas complexas sejam divididas em harmonia com o hardware, é explorado o desempenho máximo da capacidade de processamento entre CPU, GPU e DSP.

Através do NPE e uma estrutura de software que entende o hardware que está sendo utilizado, a Qualcomm® permite que desenvolvedores possam criar aplicações que sejam capazes de aprender com o usuário e com os dados disponibilizados para ele. Isso permite que programas, com uma “inteligência” muito mais sofisticada, e sem depender da nuvem, serem executados localmente.

Os Melhores Treinamentos sobre Sistemas embarcados e IoT

Cursos com professores qualificados para acelerar sua carreira e projetos

MATRÍCULE-SE AGORA

Grandes empresas já começaram a fazer uso dessa Engine e o Facebook é a primeira empresa a anunciar que está utilizando a NPE da Qualcomm. O app do Facebook usa o framework Caffe2 para acelerar o processamento demandado nas animações de realidade aumentada na sessão My Stories. O Facebook então já treinou modelos e utiliza muito melhor o Adreno GPU, em conjunto com a CPU e DSP.

“O NPE Snapdragon™ foi criado para fornecer aos desenvolvedores as ferramentas para migrar a inteligência dos dispositivos da nuvem para dispositivos de borda (edge computing) e oferecer a flexibilidade para direcionar o processador Snapdragon™ apropriado com o perfil de desempenho e poder para uma determinada experiência de usuário.”

Gary Brotman, Diretor de Gerenciamento de Produtos, Qualcomm

Agradecemos seus comentários e perguntas sobre o NPE SDK. Confira o Fórum Snapdragon™ NPE para ler as respostas às perguntas mais frequentes, inscreva-se para publicar um novo tópico, acompanhe os tópicos atualizados e responda outros entusiastas de aprendizado de máquinas.

Veja os links a seguir para mais detalhes: