Entusiasta monta PC Frankenstein com quatro placas de vídeo, totalizando 56 GB de VRAM, para rodar IA localmente

Montar um computador com quatro placas de vídeo modernas já representa um desafio, especialmente quando a intenção é acomodar todos os componentes dentro de um gabinete convencional. Um entusiasta identificado como GatesTech, no Reddit, conseguiu fazer exatamente isso, reunindo quatro GPUs NVIDIA GeForce RTX em uma máquina com 56 GB de memória de vídeo e 128 GB de RAM DDR5.

O projeto foi apresentado na comunidade r/LocalLLM e recebeu do próprio criador a descrição de Frankenstein, em referência à combinação pouco convencional de componentes.

56GB VRAM Frankenstein build managed to fit 4 GPUs in the Cooler Master HAF II 500
byu/GatesTech inLocalLLM

A máquina foi construída para executar modelos de inteligência artificial localmente, além de funcionar como servidor doméstico.

Duas RTX 5070 e duas RTX 5060 Ti no mesmo computador

O computador utiliza o gabinete Cooler Master HAF II 500, que precisou acomodar quatro placas de vídeo distribuídas em posições diferentes.

A configuração apresentada pelo entusiasta inclui:

• 2x GeForce RTX 5070: 12 GB de VRAM cada, conectadas por PCIe 5.0 x8.
• 1x GeForce RTX 5060 Ti: 16 GB de VRAM, conectada por PCIe 5.0 x4 através de um adaptador M.2.
• 1x GeForce RTX 5060 Ti: 16 GB de VRAM, conectada por PCIe 4.0 x4.
• Processador: AMD Ryzen 7 7800X3D.
• Placa-mãe: ASUS ProArt X870E-Creator WiFi.
• Memória RAM: 128 GB DDR5.
• Fonte: Corsair HX1500i.

Somadas, as quatro placas oferecem 56 GB de VRAM física. Isso não significa, entretanto, que o computador reconheça toda essa capacidade como uma única memória compartilhada.

Para aproveitar as quatro GPUs em modelos de inteligência artificial, é necessário utilizar mecanismos capazes de distribuir os dados e o processamento entre os dispositivos.

A quarta placa de vídeo precisou ser presa no alto do gabinete

Um dos aspectos mais curiosos da montagem é a posição de uma das placas de vídeo.

Enquanto três GPUs aparecem instaladas horizontalmente na região inferior do gabinete, a quarta foi posicionada verticalmente, próxima à parte superior.

Questionado por outros participantes do Reddit, GatesTech explicou que utilizou abraçadeiras plásticas para prender o suporte do adaptador PCIe aos trilhos destinados à instalação de radiadores.

Segundo ele, a fixação ficou firme, sem oscilações perceptíveis ou tensão sobre o cabo riser. Ainda assim, o método improvisado não substitui uma solução de montagem projetada e validada para esse tipo de instalação.

O criador reconheceu que o computador ainda precisa de melhorias na organização dos cabos e de pontos adicionais de estabilização.

Outro componente importante é o sistema de ventilação. O gabinete possui duas ventoinhas frontais de 220 mm e uma traseira de 180 mm, configuração que o proprietário elogiou pela capacidade de movimentar ar entre as placas.

Para que serve um PC com 56 GB de VRAM?

Diferentemente de configurações multi-GPU voltadas para jogos, a máquina foi desenvolvida principalmente para executar modelos de linguagem de inteligência artificial.

O proprietário afirma utilizá-la como mecanismo de processamento de um agente de IA local, especialmente em sessões prolongadas de programação e tarefas que exigem grandes janelas de contexto.

Segundo seu relato, o sistema executa um modelo da família Qwen com quantização NVFP4, utilizando os 56 GB de VRAM em conjunto com os 128 GB de memória RAM.

Ele também afirma trabalhar com contextos de até 262 mil tokens e obter velocidades entre 140 e 175 tokens por segundo em determinadas condições.

Esses números foram divulgados pelo próprio responsável pelo projeto e não representam resultados de testes independentes.

A quantidade de RAM também desempenha um papel importante. Dependendo do modelo e do mecanismo de inferência utilizado, parte dos dados pode permanecer na memória principal, reduzindo a necessidade de manter tudo nas GPUs.

Quatro GPUs não significam quatro vezes mais desempenho

Um dos obstáculos desse tipo de montagem está na largura de banda das conexões PCI Express.

Duas placas utilizam conexões x8, enquanto as outras trabalham com apenas quatro pistas PCIe. Isso pode limitar a transferência de dados, dependendo da maneira como o modelo distribui suas operações.

GatesTech reconhece essa limitação, mas afirma que sua configuração consegue lidar satisfatoriamente com a distribuição de especialistas de modelos MoE (Mixture of Experts).

O computador também funciona como servidor Plex e executa serviços domésticos continuamente.

O criador explicou que considerou plataformas como AMD Threadripper e EPYC, que oferecem mais pistas PCIe, mas preferiu evitar o potencial aumento do consumo energético em uma máquina que permanece ligada 24 horas por dia.

O resultado é uma configuração incomum que prioriza capacidade de memória e flexibilidade para executar inteligência artificial localmente.

Embora não seja uma solução simples de reproduzir, o projeto mostra como entusiastas estão adaptando computadores convencionais para tarefas que normalmente exigiriam estações de trabalho especializadas.