IA pode levar ao ‘risco de extinção’, alertam CEOs da OpenAI e Google DeepMind

Parece que o avanço descontrolado da IA está causando pesadelo em muita gente. Dessa vez, os CEOs da OpenAI e Google DeepMind, Sam Altman e Demis Hassabis, respectivamente, alertaram para o potencial “risco de extinção” que a IA pode representar para a humanidade.

É importante destacar que eles não são os únicos a terem essa preocupação. Eles escreveram uma declaração, juntamente com outros especialistas proeminentes em inteligência artificial, para alertar sobre os tais riscos.

Leia também
Pioneiro da IA se arrepende das descobertas e alerta para os perigos dessa tecnologia
OpenAI, criadora do ChatGPT, pede regulamentação de IA para evitar destruição da humanidade

Declaração alerta para risco de extinção

A declaração, publicada pelo Center for AI Safety, uma organização sem fins lucrativos dedicada a mitigar os riscos associados à IA, afirma que a questão deve ser uma prioridade global. “Mitigar o risco de extinção da IA deve ser uma prioridade global“, diz o comunicado, “junto a outros riscos em escala social, como pandemias e guerra nuclear“.

Entre os signatários da declaração estão Geoffrey Hinton e Yoshua Bengio, pesquisadores considerados os padrinhos da IA moderna. Hinton recentemente deixou seu cargo no Google, citando preocupações sobre os riscos potenciais da IA. Ele expressou preocupação de que a IA poderia levar ao fim da civilização em questão de anos se não for devidamente regulamentada e controlada.

A declaração não especifica os potenciais riscos e o quão grave seriam estes, nem sugere como mitigá-los ou quem deveria se encarregar dessa tarefa. No entanto, ela serve como um alerta para o mundo sobre a necessidade de levar a sério os riscos associados à IA.

Visões divergentes sobre o tema

Existem três visões principais sobre os riscos da IA. Alguns imaginam cenários hipotéticos mais apocalípticos, em que a IA se torna independente e impossível de controlar. Outros são céticos quanto à capacidade atual da IA de causar danos significativos. E há aqueles que estão preocupados com questões mais imediatas, como a disseminação de desinformação através de deepfakes e a perda de empregos devido à automação.

A declaração é curta – apenas 22 palavras em inglês – para evitar discordâncias entre as pessoas que assinaram. No entanto, o objetivo é abrir a discussão em público para mais especialistas e conscientizar sobre os riscos da IA.

Empresas como OpenAI, Microsoft e DeepMind vêm pedindo regulamentação para inteligências artificiais. A discussão pública visa abrir espaço para mais especialistas se juntarem ao debate sobre os riscos da IA.

Presidente dos Estados Unidos também se pronuncia

O presidente dos EUA, Joe Biden, também destacou a necessidade de abordar os riscos potenciais da IA para a sociedade, economia e segurança nacional. “A IA pode ajudar a lidar com alguns desafios muito difíceis, como doenças e mudança climática, mas também devemos abordar os riscos potenciais para nossa sociedade, nossa economia e nossa segurança nacional“, disse ele.

A IA tem o potencial de trazer benefícios significativos para a sociedade, mas também apresenta riscos que precisam ser gerenciados. À medida que continuamos a desenvolver e implementar essa tecnologia, é crucial que continuemos a discutir e abordar esses riscos de maneira responsável.

Fontes: Center for AI Safety, Engadget e The Verge