PS4 de 2013 surpreende ao rodar IA com 9 bilhões de parâmetros e alcançar até 43 tokens por segundo
Lançado há 13 anos, o PS4 continua encontrando novas utilidades graças à comunidade de desenvolvedores. Desta vez, o programador Leonardo Alegría conseguiu fazer o console executar um modelo de inteligência artificial com 9 bilhões de parâmetros, utilizando diretamente sua GPU e sem depender de computadores externos ou serviços na nuvem.
A novidade faz parte do Garlic LLM, projeto gratuito e de código aberto que utiliza o Qwen3.5-9B, da Alibaba. Segundo o desenvolvedor, a ferramenta alcança entre 31 e 39 tokens por segundo em conversas e até 43 tokens por segundo na geração de código.
Como o PS4 consegue executar uma IA tão avançada?
O principal desafio está na memória. O PS4 possui apenas 8 GB de RAM GDDR5 compartilhados entre o processador e a GPU, quantidade insuficiente para executar o modelo utilizando seus parâmetros em precisão de 8 bits, que exigiriam pelo menos 9 GB. Para contornar essa limitação, Alegría utilizou técnicas de quantização de 3 e 4 bits, reduzindo o espaço necessário para armazenar os pesos do modelo para aproximadamente 4,5 GiB.

O desenvolvedor também precisou superar outra barreira: a ausência de drivers e bibliotecas convencionais de inteligência artificial para aplicações independentes no PS4. Em vez de utilizar soluções como Vulkan ou llama.cpp, o Garlic LLM se comunica diretamente com a GPU AMD, baseada na arquitetura Graphics Core Next (GCN), por meio de comandos de baixo nível e operações desenvolvidas especificamente para o console.
Outra otimização importante é a previsão antecipada de tokens. O sistema utiliza um recurso do próprio Qwen3.5 para prever até dois tokens antes da verificação pelo modelo completo, acelerando a geração das respostas. O resultado é uma aplicação capaz de oferecer uma janela de contexto de 16 mil tokens, permitindo conversas relativamente longas dentro das limitações do equipamento.
IA também consegue conversar em português e executar códigos
O Garlic LLM não se limita a responder perguntas por texto. Segundo a documentação oficial, a ferramenta também consegue compreender comandos de voz e responder verbalmente em sete idiomas, incluindo português. O reconhecimento de fala utiliza o modelo Parakeet, da Nvidia, enquanto as respostas faladas são produzidas pelo Chatterbox. Nesse modo, o desempenho do modelo de linguagem cai para aproximadamente 22 tokens por segundo.
Outro recurso interessante permite solicitar a criação de programas em Python. A inteligência artificial escreve o código e consegue executá-lo diretamente no PS4 por meio do MicroPython. Existe ainda um modo de raciocínio voltado a perguntas mais complexas, que fica desativado por padrão. Na prática, isso transforma o videogame em uma pequena estação de inteligência artificial, capaz de realizar diferentes tarefas sem enviar as conversas para servidores externos.
Como instalar o Garlic LLM no PS4?
O projeto exige um PS4 desbloqueado com GoldHEN. O pacote completo ocupa aproximadamente 5,66 GB e está disponível gratuitamente no Hugging Face. Os testes principais foram realizados em consoles PS4 original/Slim com firmware 11.52. Entretanto, a documentação já registra relatos de funcionamento no PS4 Pro, incluindo resultados entre 25 e 45 tokens por segundo em uma das configurações testadas por usuários.
O PlayStation 5 não é compatível, pois a aplicação foi desenvolvida especificamente para a arquitetura do PS4. Embora o Garlic LLM não inclua ferramentas de desbloqueio, sua utilização depende de modificações no console, realizadas por conta e risco do proprietário.
Mais do que uma curiosidade técnica, o experimento demonstra como otimizações de software podem ampliar as possibilidades de equipamentos antigos. Um videogame originalmente projetado para jogos em 2013 agora consegue executar localmente um modelo de linguagem moderno, sem depender da infraestrutura de computação em nuvem.
Fonte: Tomshardware

Newsletter do Hardware
Tecnologia, games, IA e internet: nossa seleção de conteúdo direto no seu e-mail.
Inscrição feita!As próximas edições chegam no seu e-mail.

