Homem transforma velho PC de escritório em servidor de IA com sete GPUs e acaba mandado para o porão

Tudo começou com um Dell OptiPlex 990, daqueles computadores compactos encontrados em escritórios, equipado com um Intel Core i5 de segunda geração. Seis meses depois, a máquina havia se transformado em um servidor de inteligência artificial com sete placas de vídeo NVIDIA, 176 GB de memória de vídeo (VRAM) e aproximadamente US$ 6.500 investidos.

A transformação foi compartilhada pelo usuário u/RoboDogRush, na comunidade r/LocalLLaMA, no Reddit. O projeto cresceu tanto que o proprietário precisou transferir o equipamento para o porão de casa, depois que a esposa pediu que ele deixasse a montagem fora de vista.

O resultado é uma estrutura aberta, com GPUs distribuídas em dois níveis, cabos aparentes e duas fontes de alimentação de 1.600 W. Embora lembre uma máquina de mineração de criptomoedas, o objetivo é executar modelos de IA localmente.

De um Core i5 antigo a sete placas NVIDIA

A história começou quando o entusiasta recebeu uma GeForce RTX 3060 de presente. Ele instalou o Ollama e passou a executar o modelo Gemma 7B para auxiliar no gerenciamento de sua automação residencial com o Home Assistant.

A experiência despertou seu interesse pela execução local de modelos de linguagem. As primeiras atualizações rapidamente ultrapassaram as limitações do gabinete compacto do OptiPlex, que já não conseguia acomodar adequadamente os componentes.

Em determinado momento, a fonte de alimentação e a placa de vídeo estavam projetadas para fora da lateral do gabinete. O computador continuou crescendo até que o proprietário decidiu utilizar uma estrutura aberta, semelhante às empregadas em sistemas de mineração.

Durante seis meses, ele procurou componentes usados e ofertas em diferentes plataformas. A rotina envolveu alertas do eBay durante a madrugada, encontros em estacionamentos para negociar peças anunciadas no Facebook Marketplace e muitas explicações sobre a importância da VRAM para inteligência artificial.

O resultado foi uma configuração que pouco lembra o computador original.

Uma RTX 5090, seis RTX 3090 e 176 GB de VRAM

A montagem reúne seis GeForce RTX 3090, cada uma com 24 GB de memória de vídeo, e uma RTX 5090 de 32 GB. Somadas, as placas oferecem 176 GB de VRAM, embora isso não signifique que todos os programas consigam utilizar automaticamente essa memória como um único bloco.

A RTX 5090 foi comprada por US$ 1.700, em uma unidade de caixa aberta na loja Micro Center.

Para sustentar as sete GPUs, o proprietário utiliza uma placa-mãe ASRock Rack ROMED8-2T, equipada com processador AMD EPYC 7282. A máquina também conta com 32 GB de memória DDR4 ECC registrada da A-Tech e duas fontes ASRock de 1.600 W, igualmente adquiridas como produtos de caixa aberta.

Outro detalhe curioso são os cabos extensores PCIe 4.0 da Phanteks, comprados por apenas US$ 10 cada. Com 300 mm de comprimento, eles são maiores do que o necessário para a parte inferior da estrutura, mas o autor preferiu conviver com o excesso de cabos em vez de gastar mais dinheiro com substituições.

Nem tudo ocorreu sem problemas. A primeira placa-mãe apresentou defeito, mas foi substituída pela garantia pouco antes de o modelo ficar indisponível.

Esposa pediu que a máquina saísse de vista

A expansão do servidor também trouxe um problema doméstico.

Quando o proprietário comprou a estrutura aberta, sua esposa pediu que o equipamento fosse colocado em um local onde não ficasse à vista. A solução foi transferir tudo para um porão ainda inacabado, ao lado de uma bomba de esgoto.

Apesar da situação, ele encontrou uma vantagem inesperada: no novo local, conseguiu conectar o servidor diretamente à rede doméstica por cabo, abandonando a conexão Wi-Fi.

Nos comentários, outros participantes demonstraram preocupação com a proximidade da instalação hidráulica. Um deles alertou para o risco de inundação caso a bomba apresentasse defeito.

O proprietário respondeu que já estava construindo uma prateleira para manter o equipamento elevado em relação ao reservatório.

A refrigeração também virou assunto. Diante das brincadeiras sobre a quantidade de placas de vídeo e a organização dos cabos, o autor afirmou que as temperaturas permaneciam abaixo de 60 °C mesmo sob carga intensa, segundo suas próprias medições.

E o que ele faz com tanta potência?

O servidor está sendo utilizado para executar modelos de linguagem de grande porte sem depender integralmente de serviços de IA na nuvem.

Entre os experimentos mencionados estão o gpt-oss-120b, em formato GGUF com quantização MXFP4 disponibilizado pela Unsloth, e o Devstral 2 em Q8_0, utilizado em ciclos de desenvolvimento automatizado com o Mistral Vibe.

A grande quantidade de VRAM permite trabalhar com modelos que dificilmente caberiam na memória de uma única GPU convencional. Entretanto, distribuir a execução entre sete placas diferentes também apresenta desafios, especialmente pela combinação de GPUs de gerações distintas.

Nos comentários, usuários discutiram limitações de paralelismo, consumo elétrico e possíveis melhorias na distribuição das placas. O proprietário chegou a considerar substituir a RTX 5090 e expandir o conjunto para oito RTX 3090.

Curiosamente, depois de tantos meses procurando peças, resolvendo problemas e ampliando a capacidade do sistema, o próprio autor encerrou sua publicação com uma observação bem-humorada:

“Agora acho que finalmente terminei de adicionar coisas. Eu precisava desesperadamente disso. Agora não tenho certeza do que fazer com tudo isso.