Destaque

Hiddenite: novo processador para Inteligência Artificial reduz consumo de energia computacional com base em teoria de redes neurais

Fonte

Instituto de Tecnologia de Tóquio

Data

sexta-feira. 4 março 2022 18:25

Um novo chip acelerador chamado ‘Hiddenite‘, que pode alcançar precisão de última geração no cálculo de ‘redes neurais ocultas’ esparsas com cargas computacionais mais baixas, foi desenvolvido por pesquisadores do Instituto de Tecnologia de Tóquio, no Japão. Ao empregar a construção do modelo on-chip proposta, o chip Hiddenite reduz drasticamente o acesso à memória externa para maior eficiência computacional.

As redes neurais profundas (DNNs) são uma peça complexa da arquitetura de aprendizado de máquina para Inteligência Artificial, que exigem vários parâmetros para aprender a prever saídas. As DNNs podem, no entanto, ser ‘podadas’, reduzindo assim a carga computacional e o tamanho do modelo. Alguns anos atrás, a ‘hipótese do bilhete de loteria’ tomou de assalto o mundo do aprendizado de máquina. A hipótese afirmava que uma DNN inicializada aleatoriamente contém sub-redes que alcançam precisão equivalente à DNN original após o treinamento. Quanto maior a rede, mais ‘bilhetes de loteria’ para uma otimização bem-sucedida. Esses bilhetes de loteria, portanto, permitem que redes neurais esparsas ‘podadas’ obtenham precisões equivalentes a redes mais complexas e “densas”, reduzindo assim os gastos computacionais gerais e o consumo de energia.

Uma técnica para encontrar essas sub-redes é o algoritmo de rede neural oculta (HNN), que usa a lógica AND (onde a saída é alta apenas quando todas as entradas são altas) nos pesos aleatórios inicializados e uma ‘máscara binária’ chamada ‘supermáscara’. A supermáscara, definida pelas pontuações mais altas do top k%, denota as conexões não selecionadas e selecionadas como 0 e 1, respectivamente. O HNN ajuda a reduzir a eficiência computacional do lado do software. No entanto, a computação de redes neurais também requer melhorias nos componentes de hardware.

Os aceleradores DNN tradicionais oferecem alto desempenho, mas não consideram o consumo de energia causado pelo acesso à memória externa. Agora, pesquisadores do Instituto de Tecnologia de Tóquio, liderados pelos professores Dr. Jaehoon Yu e Dr. Masato Motomura, desenvolveram um novo chip acelerador chamado “Hiddenite”, que pode calcular redes neurais ocultas com consumo de energia drasticamente melhorado. “Reduzir o acesso à memória externa é a chave para reduzir o consumo de energia. Atualmente, alcançar alta precisão de inferência requer modelos grandes. Mas isso aumenta o acesso à memória externa para carregar os parâmetros do modelo. Nossa principal motivação por trás do desenvolvimento do Hiddenite foi reduzir esse acesso à memória externa “, explicou o professor Motomura. O estudo foi apresentado naConferência Internacional de Circuitos de Estado Sólido (ISSCC 2022), que ocorreu entre os dias 22 e 28 de fevereiro.

‘Hiddenite‘ significa Hidden Neural Network Inference Tensor Engine e é o primeiro chip de inferência HNN. A arquitetura Hiddenite oferece três benefícios para reduzir o acesso à memória externa e alcançar alta eficiência energética. A primeira é que oferece a geração de pesos no chip para gerar novamente pesos usando um gerador de números aleatórios. Isso elimina a necessidade de acessar a memória externa e armazenar os pesos. O segundo benefício é o fornecimento da ‘expansão de supermáscaras no chip’, que reduz o número de supermáscaras que precisam ser carregadas pelo acelerador. A terceira melhoria oferecida pelo chip Hiddenite é o processador paralelo de quatro dimensões (4D) de alta densidade que maximiza a reutilização de dados durante o processo computacional, melhorando assim a eficiência.

Acesse a notícia completa na página do Instituto de Tecnologia de Tóquio (em inglês).

Fonte: Instituto de Tecnologia de Tóquio.

Leia também