O GPT-OSS:120B, um dos mais poderosos modelos de linguagem de código aberto da OpenAI, acaba de se tornar acessível a usuários comuns através do Duck.ai, serviço de chatbot da DuckDuckGo. Esta novidade democratiza o acesso a um modelo de IA que, até então, exigia hardware extremamente potente para funcionar adequadamente, colocando inteligência artificial avançada ao alcance de todos sem comprometer a privacidade.
Para ter uma ideia da complexidade deste modelo, o GPT-OSS:120B possui 65GB de tamanho e, para ser executado localmente com bom desempenho através de ferramentas como Ollama ou LMStudio, necessitaria de mais VRAM do que é oferecido por duas placas RTX 5090 juntas. Em outras palavras, seria praticamente inviável para a maioria dos consumidores rodar este modelo em seus próprios computadores.
A solução encontrada pela DuckDuckGo foi disponibilizar o processamento deste modelo em seus próprios servidores, permitindo que qualquer pessoa possa utilizar o GPT-OSS:120B gratuitamente através da interface web do Duck.ai. A experiência é similar à de outros chatbots populares, com a vantagem de seguir a filosofia de privacidade pela qual a empresa é conhecida.
“Todas as conversas são anonimizadas”, garante a DuckDuckGo, que também não exige criação de conta ou fornecimento de e-mail para utilizar o serviço. Basta acessar a página e começar a interagir com o modelo, sem barreiras de entrada ou comprometimento da privacidade.
Desempenho e limitações
Os testes iniciais com o GPT-OSS:120B no Duck.ai mostram uma velocidade de resposta impressionante, comparável à que se obteria rodando o modelo de 20 bilhões de parâmetros em uma placa RTX 5090 localmente. A principal diferença está na forma como o resultado é apresentado: enquanto em soluções locais como o Ollama é possível visualizar o processo de “pensamento” do modelo, o Duck.ai exibe apenas a resposta final.
Esta limitação pode ser significativa para usuários que valorizam a transparência no raciocínio da IA, já que acompanhar o processo de pensamento permite identificar possíveis falhas ou compreender melhor como o modelo chegou à sua conclusão. Seria interessante se o Duck.ai oferecesse esta funcionalidade como uma opção nas configurações.
Outra restrição do serviço é a impossibilidade de fazer upload de arquivos para serem analisados pelo modelo. Alguns concorrentes permitem o envio de imagens, documentos ou trechos de código, o que amplia consideravelmente os casos de uso da ferramenta. Esta limitação pode estar relacionada à abordagem de privacidade adotada pela DuckDuckGo, mas restringe as possibilidades de utilização.
Ainda assim, o Duck.ai apresenta uma interface amigável e familiar para quem já utilizou outros chatbots de IA, salvando automaticamente as conversas recentes na barra lateral e oferecendo configurações abrangentes para personalizar o comportamento do modelo conforme as preferências do usuário.
Para quem deseja experimentar o poder do GPT-OSS:120B sem investir em hardware especializado como o NVIDIA Blackwell Pro, o Duck.ai representa uma alternativa valiosa que combina acessibilidade, desempenho e respeito à privacidade – uma combinação rara no ecossistema atual de inteligência artificial.
Fonte: Windows Central
Você também pode gostar dos artigos abaixo:
Mais privacidade! DuckDuckGo AI Chat permite conversas com ChatGPT e outros sem armazená-las
DuckDuckGo integra inteligência artificial, mas promete usá-la de forma diferente do Google e Bing
