Pioneiro da IA se arrepende das descobertas e alerta para os perigos dessa tecnologia

Geoffrey Hinton é considerado pioneiro da inteligência artificial, já que foi o responsável por criar a tecnologia base para os sistemas de IA em 2012. Porém, nesses últimos 11 anos muitas coisas aconteceram e uma delas é que ele agora está mostrando ser contra o uso da sua descoberta com medo do que isso poderá trazer para o futuro.

Durante uma entrevista, ele afirmou que faz parte do grupo de críticos do uso desenfreado das ferramentas generativas IA, como os famosos chatbots a exemplo do ChatGPT. E para falar livremente sobre o assunto, Hinton deixou até mesmo o seu cargo no Google.

Avanço das ferramentas IA dividem opiniões

Depois de trabalhar mais de uma década na empresa e ter se tornado um nome de peso nesse setor, Geoffrey Hinton se demitiu do Google e agora pretende falar abertamente sobre seus anseios a respeito do futuro.

Ele até mesmo diz que se arrepende do que descobriu, mas se consola por saber que se ele não tivesse feito essa descoberta, outra pessoa o faria.

Atualmente o avanço no uso de ferramentas generativas está mais do que provado, e muitos líderes desse setor acreditam que esse será um passo muito importante na área da tecnologia, trazendo avanços significativos a muitos setores como medicina e educação.

Por outro lado, existe ainda o receio das implicações negativas dessas descobertas, principalmente relacionadas a manipulação de informações ou até mesmo desinformação massiva. Além disso, ainda existe o risco para diversos empregos. Muitos acreditam que ela será um risco para a humanidade.

Hinton atualmente faz parte desse grupo dos preocupados. Segundo ele, é difícil impedir que pessoas com más intenções tenham acesso a essas ferramentas para fazer coisas ruins. E ele não é o único.

Depois do lançamento da nova versão do ChatGPT em março desse ano, muitos líderes e pesquisadores da área de tecnologia se uniram em uma carta aberta para pedir uma pausa no desenvolvimento de novos sistemas de IA generativa devido aos riscos que isso traria para a sociedade e humanidade.

Hinton não assinou a carta, até porque na época ele ainda trabalhava para o Google e não queria criticar a empresa publicamente por isso.

Sistemas de IA estão mais poderosos que o cérebro

Ele se tornou padrinho da IA em 2012, quando ao lado de dois dos seus alunos, Ilya Sutskever e Alex Krishevsky, conseguiu construir uma rede neural que conseguia analisar sozinha milhares de fotos e dessa forma identificar itens específicos, como flores, cachorros e carros.

A empresa fundada por eles posteriormente foi comprada pelo Google por US$ 44 milhões e esse sistema que eles inventaram acabou sendo usado para criação de tecnologias mais poderosas. Entre elas, o ChatGPT.

Um de seus alunos, Ilya Sutskever, inclusive, hoje em dia é o cientista-chefe da OpenAI, empresa responsável pelo ChatGPT.

Quando as empresas começaram a construir os chatbots com suas redes neurais capazes de aprender com textos grandes, Hinton afirmou que embora fosse uma forma poderosa para que máquinas pudessem entender e gerar textos, ainda não conseguiam chegar ao mesmo patamar do entendimento de linguagem dos humanos, porém ele acabou mudando de opinião no ano passado.

Hoje em dia ele admite que esses sistemas estão ficando ainda mais poderosos do que o cérebro humano. E à medida que as empresas aperfeiçoam essas ferramentas, elas se tornam ainda mais poderosas. Se comparar o que temos hoje com que tínhamos há 5 anos, a diferença é gritante, de acordo com ele.

Corrida das empresas pode ser prejudicial para controle da tecnologia

Um dos aspectos que mais o assusta é justamente a competição entre essas empresas. Hinton disse que até o ano passado o Google estava se saindo bem com uma administração correta da tecnologia, tomando todos os cuidados para que ela não trouxesse danos em seu lançamento. Porém, agora que a Microsoft está trabalhando no novo mecanismo de busca Bing com o chatbot, isso se tornou uma corrida. E uma corrida sem cuidados.

Ele teme que a internet logo esteja repleta de materiais como fotos, vídeos e textos falsos, enganando os usuários de forma massiva. Além disso, também há o risco dessas ferramentas de IA acabem substituindo o trabalho humano em diversas áreas como paralegais, assistentes pessoais, tradutores e outros.

“Eles tiram o trabalho pesado. Podem tirar mais que isso.”

Hinton também afirma ter medo do potencial dessas máquinas. A partir do momento que usuários e empresas comecem a usar os sistemas de IA para gerar e executar códigos de computação, será cada vez mais fácil criar armas autônomas.

“A ideia de que essas coisas possam realmente ficar mais inteligentes do que as pessoas, algumas pessoas acreditaram nisso. Mas a maioria achou que estava muito longe. E eu achei que estava muito longe. Pensei que estivesse a 30, 50 anos ou até mais longe. Obviamente, não penso mais assim.”

Embora muitos colegas e até mesmo alunos de Hinton já tenham afirmado que esse tipo de ameaça de “robôs autônomos se virando contra a humanidade” seja hipotética, ele afirma que ainda teve que essa corrida entre grandes empresas seja prejudicial e perigosa. E que isso não vai parar até ter algum tipo de regulamentação global.

O pior é que mesmo com esse tipo de regulamentação, ainda é difícil ter qualquer tipo de controle sobre isso já que não tem como saber se essas empresas estão trabalhando na tecnologia em segredo. O que ele espera é que os cientistas do mundo entendam esses riscos e controle essa tecnologia de dentro.

O ideal, de acordo com Hinton, é que haja de fato uma pausa nesse desenvolvimento até que haja um entendimento de como controlar a tecnologia por completo.

Jeff Dean, cientista-chefe do Google, revelou que comunicado que a empresa continua ciente dos riscos e tentando evita-los a máximo. “Continuamos comprometidos com uma abordagem responsável da IA. Estamos continuamente aprendendo a entender os riscos emergentes, ao mesmo tempo em que inovamos com ousadia”.

Fonte: NYTimes