A AMD divulgou um guia detalhado sobre como executar modelos de IA DeepSeek R1 em suas placas gráficas Radeon RX e processadores Ryzen AI. O guia confirma que os novos processadores Ryzen AI Max “Strix Halo” virão com memória LPCAMM2 em configurações de 32 GB, 64 GB e 128 GB, sem opção de 16 GB, garantindo desempenho robusto para notebooks de alta performance.
Além disso, a AMD revelou como suas GPUs RDNA 3 e NPUs (Unidades de Processamento Neural) podem acelerar modelos de IA como o DeepSeek-R1-Distill-Llama-70B e Qwen-32B, com desempenho que supera até mesmo a NVIDIA RTX 4080 SUPER em alguns cenários.
Radeon RX 7000: Aceleração de IA com RDNA 3
Segundo a AMD, a RX 7900 XTX, que conta com 24 GB de VRAM, é ideal para executar o DeepSeek-R1-Distill-Qwen-32B, enquanto placas com 12 GB a 20 GB de memória, como a RX 7600 XT, RX 7700 XT, RX 7800 XT, RX 7900 GRE e RX 7900 XT, são recomendadas para modelos menores, como o DeepSeek-R1-Distill-Qwen-14B. Já a RX 7600, com 8 GB de memória, é indicada apenas para o DeepSeek-R1-Distill-Llama-8B. Para rodar esses modelos, são necessários o LM Studio 0.3.8 ou superior e os drivers Radeon Software Adrenalin 25.1.1 (beta).
Desempenho: AMD vs NVIDIA
A AMD comparou o desempenho da RX 7900 XTX com as placas da NVIDIA RTX 4080 SUPER e RTX 4090 em modelos de IA. Os resultados mostram que a RX 7900 XTX supera a RTX 4080 SUPER em todos os testes, com ganhos de até 34% no modelo DeepSeek-R1-Distill-Qwen-7B, 27% no Llama-8B e 22% no Qwen-14B. Em comparação com a RTX 4090, a RX 7900 XTX vence em três dos quatro testes, com vantagens de até 13% no Qwen-7B, 11% no Llama-8B e 2% no Qwen-14B. A única exceção é o modelo Qwen-32B, onde a RTX 4090 tem uma vantagem de 4%.
Ryzen AI “Strix Halo”: Potência para Modelos de IA de Grande Porte
Os processadores Ryzen AI “Strix Halo” são projetados para notebooks de alto desempenho e vêm com três opções de memória LPCAMM2: 32 GB, 64 GB e 128 GB. Segundo a AMD, as configurações de 64 GB e 128 GB são capazes de executar localmente o modelo DeepSeek-R1-Distill-Llama-70B, enquanto a versão de 32 GB é recomendada para o DeepSeek-R1-Distill-Qwen-32B. Para modelos menores, como o DeepSeek-R1-Distill-Qwen-14B e Llama-14B, os processadores Ryzen AI “Strix Point” e gerações anteriores, como “Phoenix Point” e “Hawk Point”, também são compatíveis. A AMD recomenda o uso de quantização Q4 K M para otimizar o desempenho.
Você também deve ler!
DeepSeek: o que é e como usar: tudo o que você precisa saber sobre a IA chinesa do momento
DeepSeek, rival do ChatGPT, deixou até mesmo o CEO da OpenAI impressionado
