A Far Labs em Abu Dhabi e a Evolving Edge em Austin estão construindo mercados de computação distribuída onde os usuários podem alugar o poder de processamento de GPUs de seus computadores pessoais. Empresas de IA utilizarão esse recurso para impulsionar suas operações sem precisar construir seus próprios data centers.
Ilman Shazhaev, fundador e CEO da Far Labs, compara essa ideia a um ” Uber ou Airbnb para tarefas de raciocínio de IA”. Em vez de alugar quartos, o proprietário alugaria sua GPU quando não estivesse jogando ou trabalhando.
A inferência em IA é o processo pelo qual um modelo treinado recebe uma solicitação e produz um resultado, como responder a uma pergunta, reconhecer uma imagem ou processar dados. Essa tarefa é menos exigente do que treinar um modelo grande do zero, mas ainda requer várias GPUs se o número de usuários for elevado.
Reúna milhares de PCs em uma nuvem de IA
A Far Labs prevê lançar sua plataforma Far AI nas próximas semanas e afirma que consegue manter a latência em no máximo 100 ms. A Evolving Edge abriu um programa beta para usuários. As duas empresas têm como alvo principal modelos de código aberto de pequeno e médio porte, e não sistemas massivos comparáveis aos da OpenAI, Google ou Anthropic. Elas competirão com plataformas já estabelecidas como a Salad, uma rede que se destaca por ter mais de 60.000 GPUs de consumo ativas diariamente.
Segundo a IEEE Spectrum, a Far Labs desenvolveu um sistema capaz de dividir um modelo em múltiplas partes, distribuí-las para diferentes máquinas e, em seguida, reunir os resultados em uma resposta completa. O Evolving Edge utiliza o Ray, um framework de código aberto também encontrado em data centers tradicionais, para orquestrar o processo.
Este modelo apresenta diversas vantagens. As startups não precisam gastar grandes somas de dinheiro comprando milhares de GPUs e construindo infraestrutura de refrigeração. A rede também é menos dependente de um único local. John Federico, CEO da Evolving Edge, argumenta que um sistema com 250.000 máquinas pode continuar operando normalmente mesmo se 100 máquinas perderem a conexão inesperadamente.
No entanto, esse valor reflete apenas as capacidades teóricas do projeto. A eficiência real depende da conexão de rede de cada servidor, da distância geográfica, das capacidades de coordenação e da estabilidade da rede à medida que ela se expande. Permitir que uma plataforma externa utilize a GPU significa que o proprietário da máquina deve aceitar tarefas enviadas por terceiros. O risco mais óbvio é que um malware tente escapar do ambiente restrito, acessar dados pessoais ou sequestrar recursos adicionais do sistema.
A Far Labs e a Evolving Edge afirmaram que as tarefas de IA serão executadas em um ambiente isolado, fora do alcance dos dados principais da máquina. As conexões são criptografadas e o acesso aos recursos de CPU, GPU, RAM, armazenamento e rede é restrito. Os clientes que alugam GPUs também não têm acesso direto ao servidor.
A Evolving Edge disponibilizou publicamente o código-fonte do seu software para as máquinas participantes da rede, permitindo que a comunidade examine seu funcionamento interno. No entanto, o isolamento em sandbox apenas ajuda a reduzir o risco e não garante que vulnerabilidades não aparecerão.
Além da segurança, os usuários também devem considerar a privacidade, a quantidade de dados transmitidos pela rede e a possibilidade de a GPU ser sequestrada justamente no momento em que precisam jogar. Um sistema de aluguel suficientemente seguro também precisa de um mecanismo para interromper rapidamente as tarefas quando o proprietário da máquina quiser recuperar os recursos.
As contas de eletricidade podem consumir toda a sua renda.
A rentabilidade desse modelo permanece incerta. A Far Labs e a Evolving Edge ainda não anunciaram os valores pagos aos proprietários das máquinas, portanto, não se sabe se os ganhos serão suficientes para cobrir os custos de eletricidade e a depreciação do hardware.
A plataforma Salad vende poder de processamento gráfico (GPU) para consumidores a partir de apenas US$ 0,02 por hora. Os proprietários recebem apenas uma parte desse valor após a plataforma deduzir as taxas.
Em 2021, a Salad estimou que geraria cerca de US$ 3,6 milhões com computação de usuários, mas distribuiu apenas cerca de US$ 500.000 em recompensas, o equivalente a quase 14 centavos de dólar por dólar de receita. Esse valor foi registrado quando a plataforma ainda estava minerando Ethereum, portanto não pode ser diretamente aplicado aos serviços de IA atuais, mas demonstra que a divisão de receita pode ser um problema significativo.
Portanto, um PC ocioso pode não se tornar necessariamente uma fonte atraente de renda passiva. Se o bônus for menor que o custo da eletricidade e da depreciação, os usuários estão essencialmente pagando para que sua GPU trabalhe para outra pessoa.
O conceito de “Airbnb para IA” ainda tem potencial para aproveitar milhões de GPUs ociosas. Mas, antes de transformar PCs gamers em “trabalhadores do turno da noite”, os usuários precisam entender claramente os limites de pagamento, quais tarefas podem ser executadas e quem será o responsável em caso de falha de dados ou hardware.
