Homem monta supercomputador caseiro com 18 placas NVIDIA para rodar IA e usa calor para aquecer piscina

Um entusiasta de hardware chamou a atenção no Reddit ao apresentar uma estrutura caseira equipada com 18 placas de vídeo NVIDIA, incluindo oito GeForce RTX 5090, seis RTX PRO 6000 e quatro RTX 3090. O equipamento foi desenvolvido para executar modelos avançados de inteligência artificial localmente, mas também passou a ser utilizado na mineração de criptomoedas.

O projeto foi compartilhado pelo usuário u/TestOr900, na comunidade r/LocalLLM. Nas fotografias, é possível observar uma estrutura metálica aberta, distribuída em diferentes níveis, com diversas GPUs, fontes de alimentação e um sistema de refrigeração ainda em desenvolvimento.

DDR4 512GB vs. switching to DDR5 for MoE offload on a multi-GPU rig?
byu/TestOr900 inLocalLLM

Segundo o responsável, o investimento total ficou abaixo de 90 mil euros. Apesar do valor elevado, ele afirma que conseguiu reduzir os custos reaproveitando componentes e adquirindo placas de vídeo antes de grandes aumentos de preço.

De três placas de vídeo para uma estrutura com 18 GPUs

O projeto começou de maneira relativamente modesta, considerando suas proporções atuais. A primeira configuração utilizava uma RTX 5090 e duas RTX 3090.

Com o passar do tempo, o entusiasta adicionou outras placas e passou a adquirir RTX 5090 usadas para mineração. Uma das unidades teria custado apenas 1.900 euros.

A configuração atual combina seis RTX PRO 6000, oito RTX 5090 e quatro RTX 3090, acompanhadas de um processador AMD Ryzen Threadripper PRO 5995WX e uma placa-mãe ASUS WRX80E-SAGE SE WIFI II.

O responsável também reutilizou estruturas originalmente destinadas à mineração, além de switches PCIe 4.0 e componentes de seu antigo computador Threadripper.

A expansão trouxe um problema: a quantidade de calor produzida pelas placas.

Segundo o autor, a situação ficou especialmente complicada após a aquisição das RTX PRO 6000, que teriam custado aproximadamente 8 mil euros cada, com desconto.

Para lidar com as temperaturas, ele começou a converter parte do equipamento para refrigeração líquida e encontrou uma aplicação curiosa para a energia térmica produzida: aproveitar o calor residual para aquecer sua piscina.

Mineração rende cerca de 120 euros por dia, segundo o proprietário

Embora tenha surgido como um projeto voltado à inteligência artificial, o computador acabou ganhando outra finalidade.

O usuário afirma que suas oito RTX 5090 estão sendo utilizadas na mineração da criptomoeda PEARL, gerando aproximadamente 120 euros por dia nas condições relatadas.

Ele também declarou já ter vendido cerca de 30 mil dólares em criptomoedas e manter outros 70 mil dólares em ativos, considerando uma cotação de US$ 1,50 por unidade.

Esses números são declarações do próprio usuário e não foram verificados de maneira independente. A receita informada também não representa necessariamente lucro líquido, pois não considera todos os custos operacionais, como eletricidade e manutenção.

Curiosamente, o proprietário considera que, nas condições atuais, minerar criptomoedas e pagar assinaturas de serviços como Claude e Codex faz mais sentido financeiramente do que executar todas as suas tarefas de IA localmente.

Objetivo é executar modelos gigantes de IA sem depender da nuvem

Apesar da utilização na mineração, o projeto continua voltado à inteligência artificial.

O objetivo do entusiasta é executar modelos de linguagem com aproximadamente um trilhão de parâmetros, utilizando técnicas que permitem distribuir parte dos dados entre a memória das GPUs e a RAM do sistema.

Para isso, ele considera ampliar a memória atual de 128 GB para 512 GB DDR4 ou migrar para uma plataforma mais recente, com DDR5.

A segunda alternativa envolveria substituir processador e placa-mãe, aumentando significativamente o investimento.

O autor também compartilhou resultados preliminares de inferência, incluindo aproximadamente 15.900 tokens por segundo no processamento inicial de entrada e 294 tokens por segundo na geração, em uma configuração específica de seu sistema.

Os resultados não constituem uma avaliação independente e dependem do modelo, da distribuição dos dados e das condições do teste.

Por enquanto, a estrutura permanece em desenvolvimento. O projeto demonstra até onde alguns entusiastas estão dispostos a levar a execução de inteligência artificial local, mesmo quando isso exige dezenas de placas de vídeo, sistemas de refrigeração personalizados e investimentos comparáveis aos de equipamentos profissionais.