O que é uma NPU e para que serve?

Os smartphones, PCs e outros eletrônicos modernos contam com um tipo de processador especial chamado de NPU (Unidade de Processamento Neural). Esse processador tem a função de acelerar tarefas relacionadas à inteligência artificial, como redes neurais e aprendizado de máquina.

É importante frisar que esta sigla — NPU — não é universal. Algumas empresas, como Apple e Google usam nomes diferentes para o mesmo tipo de processador. Por exemplo, nos gadgets da maça o NPU é chamado de Neural Engine, enquanto o Google utiliza a sigla TPU (Tensor Processing Unit) para se referir a essas unidades de processamento inteligente. Há ainda uma outra sigla que é bem menos usada: IPU (Intelligence Processing Unit).

Leia também
Qual é a diferença entre Machine Learning e Deep Learning?
O que é SoC? 5 pontos importantes para entender o processador do seu smartphone

Neste artigo nós vamos explicar de maneira mais aprofundada o que é uma NPU, como funciona e para quê serve.

Como uma NPU funciona?

Um chip neural, também conhecido como NPU, incorpora uma série de núcleos de processamento altamente especializados. Esses núcleos operam de maneira simultânea e coordenada, o que é crucial para realizar com eficiência as complexas operações matemáticas que são fundamentais no campo da inteligência artificial. Em particular, eles são extremamente adequados para lidar com tarefas como aprendizagem de máquina, aprendizagem profunda (deep learning) e gestão de redes neurais artificiais — todas essenciais para a simulação de processos cognitivos semelhantes aos humanos.

Em um SoC, que significa System-on-a-Chip ou Sistema em um Chip, encontramos uma configuração onde diversos componentes eletrônicos estão integrados em um único substrato de silício. Aqui, uma NPU é especificamente designada para gerenciar as tarefas relacionadas à inteligência artificial.

Este arranjo eficiente permite que a CPU (Unidade Central de Processamento), focada nos fluxos gerais de controle e lógica, não fique sobrecarregada com cálculos intensivos de IA. Paralelamente, a GPU (Unidade de Processamento Gráfico) mantém seu papel centrado na renderização de gráficos e vídeos, melhorando assim o desempenho geral do sistema.

A presença de núcleos especializados, portanto, facilita uma distribuição mais inteligente e eficaz das cargas de trabalho, resultando num uso mais otimizado dos recursos computacionais. Com isso, é possível realizar várias tarefas ao mesmo tempo de modo mais veloz, enquanto se conserva energia, o que é especialmente benéfico em dispositivos que funcionam com baterias.

Focando no design dos núcleos de uma NPU, eles são frequentemente otimizados para executar operações específicas de álgebra linear, tais como multiplicação de matrizes e outros cálculos complexos, com grande precisão e velocidade elevada. Isso é vital, pois as redes neurais artificiais requerem um volume imenso dessas operações para poder “aprender” através da análise de dados. Estas redes são inspiradas pela estrutura neural do cérebro humano, procurando emular sua capacidade de identificar padrões e fazer previsões baseadas na experiência.

A utilização de uma NPU eficaz e bem projetada abre portas para o emprego de técnicas avançadas de aprendizado de máquina e deep learning até mesmo em dispositivos de pequeno porte, como smartphones e wearables. Isso significa que os consumidores têm agora ao alcance das mãos aparelhos pequenos, mas incrivelmente poderosos, capazes de realizar proezas como reconhecer e classificar imagens, interpretar linguagem natural e responder a comandos de voz de forma quase instantânea. Dessa forma, a tecnologia de IA passa a ser uma ferramenta ainda mais integrada e acessível no nosso cotidiano.

Aplicações praticas das NPUs

As NPUs desempenham um papel vital em diversos setores, indo muito além do que simplesmente acelerar tarefas em aparelhos eletrônicos. Elas representam uma revolução na maneira como as máquinas aprendem e interpretam informações. Vejamos em detalhes os campos em que essas tecnologias estão causando grande impacto.

Visão computacional

Aqui, as NPUs são verdadeiramente transformadoras. Elas habilitam sistemas a identificar e categorizar elementos visuais com uma eficiência estonteante. Por exemplo, permitem que dispositivos de segurança reconheçam rostos ou comportamentos suspeitos em uma fração de segundo, garantindo respostas rápidas em situações críticas.

Em veículos autônomos, as NPUs são fundamentais para o processamento em tempo real de sinais de trânsito, obstáculos e até as expressões dos pedestres, contribuindo significativamente para a segurança e eficiência desses sistemas.

Processamento de linguagem natural (NLP)

O NLP, ou processamento de linguagem natural, é uma área da inteligência artificial. Ele une a linguística computacional, que usa regras para modelar a língua humana, aos modelos estatísticos de machine learning e deep learning. Essas tecnologias fazem com que os computadores entendam a linguagem humana, seja em texto ou voz. Eles captam o significado completo, a intenção e tentam até mesmo decifrar o sentimento de quem fala ou escreve.

O avanço das NPUs proporcionou grandes saltos na interpretação da linguagem humana por máquinas. Hoje, é possível que assistentes virtuais como Siri ou Google Assistant compreendam e respondam às solicitações dos usuários com um nível de precisão cada vez mais impressionante. O NLP também permitiu oi surgimento e a popularização de chatbots como o ChatGPT.

Realidade virtual e aumentada

No campo do entretenimento imersivo que engloba realidade virtual e aumentada através de jogos e experiências educacionais interativa, as Unidades de Processamento Neural são uma peça chave insubstituível.

As NPUs possibilitam que os sistemas computacionais ajustem e otimizem dinamicamente os ambientes virtuais complexos. Isso significa que mesmo os cenários mais intricadamente detalhados podem ser renderizados com uma eficiência notável, sem comprometer o alto desempenho esperado pelos usuários ou consumir recursos excessivos de energia elétrica.

Big Data

Na era digital, onde gigantes quantidades de dados são geradas constantemente, as NPUs são aliadas imprescindíveis no processamento e análise dessas informações.

Isso é especialmente perceptível em setores como o financeiro, onde a velocidade na previsão de tendências de mercado pode significar a diferença entre lucros e perdas. No campo da saúde, a capacidade de examinar e interpretar vastos conjuntos de imagens médicas auxilia especialistas a diagnosticarem doenças de maneira precoce e precisa, salvando vidas através da detecção antecipada de condições de saúde críticas.

O papel das NPUs em diferentes dispositivos

As NPUs complementam CPUs e GPUs, focando em tarefas de IA para evitar sobrecarga nos processadores. Em chamadas de vídeo, uma NPU pode desfocar o fundo, enquanto a GPU cuida de outras tarefas. Em edição de fotos ou vídeos, as NPUs gerenciam a detecção de objetos e processos de IA, otimizando o fluxo de trabalho. Veja abaixo como as NPUs podem atuar em diferentes dispositivos.

Nos computadores: Os NPUs estão sendo cada vez mais incorporados em PCs e notebooks, como nos Core Ultra da Intel e Snapdragon X Elite da Qualcomm. Eles processam IA mais eficientemente, aliviando o trabalho de CPUs e GPUs, resultando em computação mais rápida. O NPU da Qualcomm, por exemplo, faz 75 trilhões de operações por segundo, o que é crucial para imagens de IA generativa.

Nos dispositivos móveis: As NPUs são essenciais em smartphones para aplicações de IA, com a Huawei inovando na integração dessas unidades nos CPUs, o que melhora o desempenho e a eficiência. Os chips Bionic da Apple utilizam NPUs para melhorar vídeo e fotos. Além disso, NPUs permitem reconhecimento de imagens, otimização de câmeras, efeitos de bokeh e funções como o Bixby Vision da Samsung. E por falar na gigante sul-coreana, recenetemente a linha Galaxy S24 foi lançada com o Galaxy AI, que usa diversos recursos de IA graças à sua potente NPU.

Em outros dispositivos: NPUs estão ganhando espaço em dispositivos como TVs, que usam a tecnologia para converter conteúdos para 4K, e câmeras, onde melhoram estabilização de imagem e adicionam recursos como foco automático e reconhecimento facial. Além disso, NPUs são essenciais em dispositivos domésticos inteligentes, processando localmente tarefas de aprendizado de máquina, como reconhecimento de voz, sem necessidade de enviar dados sensíveis para a nuvem.