OpenAI abre vaga para líder em previsão de riscos catastróficos da IA

OpenAI abre vaga para Head of Preparedness, um cargo focado em antecipar e mitigar riscos da inteligência artificial.

A OpenAI está à procura de um profissional para ocupar o cargo de Head of Preparedness, posição que terá como principal responsabilidade prever e mitigar possíveis riscos catastróficos relacionados ao avanço da inteligência artificial. O anúncio foi feito pelo CEO Sam Altman através de uma publicação em sua conta no X, onde reconheceu que o rápido avanço dos modelos de IA apresenta “desafios reais” que precisam ser gerenciados.

 

Na vaga publicada no site oficial da empresa, a OpenAI busca alguém que será responsável por rastrear e se preparar para capacidades de fronteira que possam criar novos riscos de danos severos. A pessoa selecionada liderará diretamente a construção de sistemas que permitam à empresa antecipar potenciais problemas críticos antes que se materializem.

OpenAI abre vaga para líder em previsão de riscos catastróficos da IA 2

Entre as preocupações específicas mencionadas por Altman estão impactos na saúde mental das pessoas e os perigos relacionados a armas de cibersegurança potencializadas por IA. Estes pontos destacam a crescente consciência da OpenAI sobre as consequências imprevistas que suas tecnologias podem desencadear à medida que se tornam mais sofisticadas.

034h1Q2VOswgL8BpsyAvp8P 1 scaled

A criação deste cargo surge em um momento de intenso debate global sobre os limites éticos e riscos existenciais da inteligência artificial avançada. A empresa, responsável pelo desenvolvimento do ChatGPT e outros modelos de linguagem de grande porte, tem enfrentado tanto elogios por sua inovação quanto críticas por potencialmente avançar tecnologias sem compreender completamente suas ramificações.

Para quem se interessar pela posição, a vaga de Head of Preparedness exigirá um profissional capaz de navegar entre questões técnicas complexas e considerações éticas profundas, enquanto desenvolve estratégias para monitorar e controlar os riscos associados aos avanços mais recentes em IA.

Especialistas em segurança de IA têm apontado que esta movimentação da OpenAI pode representar um reconhecimento tardio de preocupações levantadas há anos pela comunidade acadêmica. A corrida para desenvolver sistemas de IA cada vez mais poderosos tem gerado apreensão entre pesquisadores que temem que o ritmo de avanço supere nossa capacidade de garantir que essas tecnologias permaneçam seguras e alinhadas com valores humanos.

Você também pode gostar dos artigos abaixo:

Pânico no bastidor? OpenAI está em “alerta máximo” para tentar frear o avanço do Gemini

 

IBM vê só 1% de chance de superinteligência com a IA atual e põe OpenAI na berlinda

Postado por
Editor-chefe no Hardware.com.br/GameVicio Aficionado por tecnologias que realmente funcionam. Segue lá no Insta: @plazawilliam Elogios, críticas e sugestões de pauta: william@hardware.com.br
Siga em:
Compartilhe
Deixe seu comentário
Assine nossa Newsletter
Assine nossa newsletter e receba nossa seleção de conteúdo sobre tecnologia, games, IA e internet em seu email.
Veja também
Publicações Relacionadas
Img de rastreio
Localize algo no site!