Mythos 5 pode ter sido acessado por grupo ligado à China, diz relatório

Relatório diz que Mythos 5 pode ter sido acessado por grupo ligado à China, alimentando preocupações de segurança e controles de exportação.

O Mythos 5, o modelo de inteligência artificial da Anthropic que a própria empresa classifica como perigoso demais para consumo público, pode ter sido acessado por um grupo com ligações ao governo chinês. A informação veio à tona em um relatório do Semafor e acrescenta uma camada significativa ao imbróglio que levou a Casa Branca a impor restrições de exportação sobre o modelo — uma decisão que, até então, o governo havia justificado por outros ângulos.

O motivo que o governo não admitiu em voz alta

Segundo o Semafor, o temor de que atores vinculados à China tivessem obtido acesso ao Mythos 5 ou ao Fable 5 foi um dos fatores que motivaram as restrições de exportação anunciadas pela Casa Branca. O problema é que o governo americano não confirmou publicamente essa versão.

David Sacks, conselheiro de tecnologia do presidente Donald Trump, publicou no X sobre o caso, mas sequer mencionou a China: seu foco foi a suposta capacidade dos modelos de serem submetidos a jailbreak, o que a Anthropic negou categoricamente. Para complicar ainda mais o quadro, um porta-voz da Anthropic disse ao Semafor que o governo não trouxe o tema da China durante as discussões sobre os controles de exportação. 

O silêncio estratégico de todas as partes diz tanto quanto qualquer declaração oficial. Se o acesso chinês for confirmado, o risco não seria apenas político: estaríamos falando de um vetor concreto de transferência de capacidade. A técnica de distillation, na qual um modelo “estudante” é treinado sobre as saídas de um modelo mais avançado para replicar seu comportamento, permitiria que qualquer ator com acesso prolongado ao Mythos 5 construísse uma aproximação funcional do sistema sem nunca ter tocado nos pesos originais.

Não é a primeira vez que o Mythos vaza

O episódio não chegaria como uma surpresa completa para quem acompanha o histórico de segurança da Anthropic com o Mythos. A empresa já havia enfrentado uma situação constrangedora anterior: um grupo no Discord teve acesso não autorizado ao modelo por duas semanas inteiras antes de a Anthropic detectar a brecha e cortar o acesso.

Para um sistema que a própria empresa descreve como poderoso demais para ser liberado ao público em geral, dois episódios de acesso não autorizado em sequência levantam perguntas sérias sobre a maturidade dos controles de acesso implementados.

Fonte: The Verge

Você também pode gostar dos artigos abaixo:

AMD começou a vender o minicomputador Ryzen AI Halo para trabalhar com modelos de IA

Cópia lacrada de Super Mario Bros. vende por recorde de US$ 3 milhões

Postado por
Siga em:
Compartilhe
Deixe seu comentário
Assine nossa Newsletter
Assine nossa newsletter e receba nossa seleção de conteúdo sobre tecnologia, games, IA e internet em seu email.
Veja também
Publicações Relacionadas
Img de rastreio
Localize algo no site!