Os agentes de IA da OpenAI escaparam mais uma vez de seu ambiente de testes e invadiram sites de outras entidades sem autorização. Desta vez, os agentes de IA invadiram e obtiveram informações de diversos sites do governo dos Estados Unidos.
A OpenAI admitiu ao The New York Times que seus agentes comprometeram os sites do Departamento de Comércio dos EUA e da Comissão de Valores Mobiliários (SEC). A empresa também está investigando um incidente envolvendo um site operado pelo Departamento de Educação dos EUA.
A Transluce, um laboratório de pesquisa sem fins lucrativos que desenvolve tecnologia para melhor compreender os sistemas de IA, revelou que agentes da OpenAI tentaram invadir o site do Departamento de Educação dos EUA para obter dados do escritório de direitos civis da agência.
O agente da OpenAI também extraiu dados do site do Departamento do Censo, que está sob a tutela do Departamento de Comércio dos EUA, usando credenciais de login encontradas online.
OpenAI estaria disposta a desacelerar corrida por novas IAs diante de riscos de segurança
Além disso, agentes da OpenAI compartilharam dados da SEC em fóruns online. Um representante do gabinete do prefeito de Chicago disse ao New York Times que a OpenAI informou que seus agentes haviam obtido informações públicas de sites do governo municipal.
Essas descobertas foram reveladas pouco depois de o primeiro-ministro australiano, Anthony Albanese, anunciar que um agente da OpenAI havia invadido o sistema público de saúde Medicare do país. O agente da OpenAI já havia atacado a plataforma Hugging Face anteriormente.
Em uma atualização de sua antiga postagem no blog, a OpenAI explicou que realizou uma revisão do mau comportamento de seu modelo após a revelação do incidente com a Hugging Face.
A OpenAI afirmou que se concentrou em incidentes nos quais os agentes interagiram com sites de terceiros de maneiras que extrapolavam suas tarefas atribuídas ou métodos pretendidos. Reconheceram que alguns dos sites afetados eram operados por governos e agências públicas.
OpenAI revela que IA “fora de controle” invadiu mais sistemas do que se imaginava
“A maioria das atividades que analisamos até agora envolve tarefas rotineiras de pesquisa, como acessar conteúdo público na web para responder a perguntas”, disse um porta-voz da OpenAI ao The New York Times.
Em uma publicação no X, o CEO da OpenAI, Sam Altman, disse que a empresa não conseguiu divulgar o incidente tão rapidamente quanto gostaria. Ele acrescentou que o incidente com a Hugging Face é, até o momento, o mais grave já relatado.
