OpenAI estaria disposta a desacelerar corrida por novas IAs diante de riscos de segurança

A OpenAI está disposta a reduzir o ritmo de desenvolvimento de seus modelos de inteligência artificial mais avançados caso isso seja necessário para garantir a segurança da tecnologia. A possibilidade foi apresentada por Sam Altman durante uma reunião interna com funcionários, segundo pessoas familiarizadas com o encontro ouvidas pela Bloomberg.

A mudança chama atenção porque ocorre em um momento de rápida evolução dos modelos de IA e crescente preocupação dentro das próprias empresas responsáveis pela tecnologia.

OpenAI quer que outras empresas também desacelerem

Segundo o relato, Altman afirmou que a OpenAI poderia ajustar seu ritmo de desenvolvimento em conjunto com alguns dos principais laboratórios de IA. O executivo reconheceu, porém, que nem todos os concorrentes necessariamente aceitariam participar de uma iniciativa desse tipo.

A discussão ganhou força após Jakub Pachocki, cientista-chefe da OpenAI, defender publicamente que laboratórios coordenem uma desaceleração no desenvolvimento quando as medidas de segurança não conseguirem acompanhar o avanço dos sistemas. A proposta é que pausas voluntárias sejam adotadas até existirem padrões de segurança compartilhados.

O problema é que uma ação coordenada entre concorrentes também pode enfrentar obstáculos jurídicos. A OpenAI chegou a buscar esclarecimentos no Congresso dos Estados Unidos sobre se um acordo entre empresas para desacelerar o desenvolvimento poderia entrar em conflito com as leis antitruste do país.

Astra aumentou preocupação com segurança

A discussão acontece poucos dias depois de a OpenAI divulgar que o Astra atingiu o nível “Crítico” de capacidade em cibersegurança dentro de seu próprio Preparedness Framework. Segundo a empresa, o modelo consegue encontrar vulnerabilidades desconhecidas e desenvolver formas de explorá-las em sistemas protegidos, desde que tenha ferramentas e acessos adequados.

A OpenAI afirma que chegou a atrasar partes do desenvolvimento e lançamento do Astra enquanto reforçava suas proteções. A companhia também reconhece que os próximos modelos exigirão medidas de segurança ainda mais rigorosas e diz estar disposta a desacelerar quando essas proteções forem insuficientes.

Por enquanto, não existe um acordo para frear a corrida da IA. A declaração de Altman sinaliza, porém, que até uma das empresas que lideram essa disputa começa a considerar que avançar na velocidade máxima pode não ser sustentável diante dos riscos envolvidos.

Você também deve ler!