Homem monta servidor com 10 placas de vídeo para rodar IA local depender da nuvem

Um servidor doméstico equipado com dez GPUs NVIDIA RTX A4500 de 20 GB chamou atenção no Reddit não apenas pelo hardware, mas pelo custo acumulado da máquina. O dono do equipamento estimou ter investido cerca de US$ 12 mil no conjunto e disse que pretende usar a infraestrutura para tornar seus projetos de inteligência artificial lucrativos.

Quando um usuário perguntou se o equipamento teria custado mais de US$ 100 mil, o autor respondeu que o valor estava mais próximo de US$ 12 mil. Segundo ele, cada RTX A4500 custou aproximadamente US$ 1.100.

I was today years old when I realized how much that box cost me.
by
u/jamesbuniak in
HomeDataCenter

Dez GPUs somam 200 GB de memória de vídeo

As placas utilizadas são RTX A4500, modelo profissional da NVIDIA com 20 GB de memória por unidade. Na prática, isso significa que o servidor possui 200 GB de VRAM física distribuídos entre as dez GPUs.

Essa soma, porém, não deve ser confundida com uma única placa de vídeo com 200 GB de memória. A forma como essa capacidade pode ser aproveitada depende do software, do modelo de IA e da maneira como a carga é dividida entre as GPUs.

O consumo também ajuda a colocar a escala da máquina em perspectiva. O próprio autor afirma que cada A4500 trabalha com limite de aproximadamente 200 W. Se as dez placas alcançassem esse valor simultaneamente, somente as GPUs poderiam chegar a cerca de 2.000 W, sem contar processadores, memória, armazenamento, ventoinhas e demais componentes do servidor..

O servidor Dell foi feito para receber muitas GPUs

Outro detalhe incomum é que o conjunto não foi montado em um gabinete convencional de PC. Questionado sobre a plataforma, o proprietário identificou a máquina como um Dell 8440, descrevendo-a como antiga, mas disponível por preços interessantes no mercado de usados.

Esse tipo de servidor foi projetado para receber diversos aceleradores e utilizar grande fluxo de ar da parte frontal para a traseira. Isso explica como dez placas conseguem operar praticamente encostadas umas às outras, algo muito diferente da distribuição encontrada em um desktop gamer.

Máquina será usada para serviços de inteligência artificial

O projeto também não parece ser apenas uma demonstração de hardware. O autor afirmou que hospeda na infraestrutura os serviços DarkCompute.io e PLCcode.ai e disse esperar transformar o investimento em uma operação lucrativa.

É justamente esse detalhe que transforma o caso em algo além de um homelab exagerado. Em vez de comprar uma única GPU de última geração, o proprietário apostou em várias placas profissionais usadas para montar, em casa, uma infraestrutura com características mais próximas das encontradas em servidores de IA.