Especialistas em inteligência artificial defendem criação de um interruptor físico para desligar as IAs

Especialistas em inteligência artificial defendem criação de um interruptor físico para desligar as IAs

Nesta semana, um conjunto de cientistas trouxe a público um estudo, veiculado pela renomada Universidade de Cambridge, sugerindo a implementação de um mecanismo de desativação manual em dispositivos de inteligência artificial. Uma espécie de “botão do pânico” para o caso das coisas darem muito errado.

Este estudo, que contou com a colaboração de diversos pesquisadores da OpenAI, organização por trás do desenvolvimento do badalado ChatGPT e líder no setor de IA generativa, propõe a inclusão de componentes físicos no hardware dessas plataformas capazes de cessar a operação dessas tecnologias quando necessário. Nos próximos parágrafos trago mais detalhes sobre essa ideia.

Leia também
Este celular não tem aplicativos e funciona só com inteligência artificial
Qual a origem do termo inteligência artificial?

Botão de “Liga/Desliga” para as IAs

A sugestão feita pelos acadêmicos é equiparada a um dispositivo de emergência para a IA. Tal dispositivo, conhecido como kill switch, refere-se a qualquer botão ou mecanismo de segurança projetado para desligar equipamentos em situações de risco. Por exemplo, nas esteiras de academias há um botão vermelho bem grande que a pessoa pode apertar caso perceba que está passando mal ou que a máquina está indo rápido demais. Ao apertar esse botão a esteira é desligada na hora.

Dos 19 co-autores do estudo, cinco são parte da equipe da OpenAI, entidade atualmente vista como a vanguarda no campo da inteligência artificial. A fama do ChatGPT e suas funcionalidades experimentaram um crescimento exponencial desde o seu lançamento, em novembro de 2022. O crescimento continuou mesmo com as diversas limitações da ferramenta e alguns episódios onde o chatbot claramente estava sendo preguiçoso.

Esse avanço do ChatGPT incitou uma verdadeira “corrida das IAs generativas” e instigou discussões sobre os perigos potenciais dessa tecnologia. Empresas como Google com seu Gemini, anteriormente chamado de Bard, a Meta com lançamentos de IA para gerar imagens por meio de texto, e a Samsung com a introdução da Galaxy AI no Galaxy S24, entre outras iniciativas, são alguns dos competidores dessa corrida.

Segundo os pesquisadores, é relativamente fácil colocar o kill switch

Google's 'big red' killswitch could prevent an AI uprising | WIRED UK

Para enfrentar prováveis problemas de segurança, os autores defendem a inserção de kill switches no hardware das IAs. Eles apontam que, dado o número limitado de fabricantes de GPUs com foco em inteligência artificial generativa, predominantemente a Nvidia, seria relativamente simples o controle sobre quem acessa essa tecnologia e a monitoração de seu uso inapropriado.

A pesquisa sugere que a implementação de um botão de emergência nas GPUs é viável, permitindo que autoridades regulatórias o acionem ao detectar violações. Esse sistema de segurança também poderia se autoativar diante de usos indevidos.

Além disso, os cientistas propõem que as empresas de IA sejam obrigadas a obter uma licença de operação, renovável periodicamente, semelhante aos alvarás tradicionais, para continuar seus trabalhos de pesquisa e desenvolvimento. A falta de renovação resultaria na suspensão do sistema. Essa abordagem de controle, contudo, também apresenta o risco de se tornar um alvo para ataques cibernéticos.

Caso você queira acessar o paper na íntegra, basta clicar neste link (PDF).

Presidente da Microsoft também é a favor do kill switch para IA

Brad Smith, President of Microsoft and Author of "Tools and Weapons: The  Promise and the Peril of the Digital Age" — Business Today Online Journal

Apesar de não ser um dos autores do estudo, Brad Smith, presidente da Microsoft, comentou durante uma entrevista ao jornal El País que também é a favor dessas medidas de segurança mais drásticas.

Ele comentou o seguinte sobre o assunto: “... algo que me chama a atenção, depois de 30 anos nesta indústria, é que a vida imita a arte. É surpreendente que existam 50 filmes com o mesmo roteiro: uma máquina que pensa por si própria e decide escravizar ou extinguir a humanidade, e a humanidade luta e a vence. O que isso nos diz a respeito? Que precisamos ter uma forma de desacelerar ou desligar a IA, especialmente se está controlando um sistema automatizado de infraestrutura crítica”.

Apesar de ser uma das maiores investidores da OpenAI e de ter abraçado as ferramentas de inteligência artificial, a Microsoft já se declarou a favor da regulação das IAs. O próprio presidente da companhia já fez propostas ao Senado com ideias para tal regulação.

Ainda sobre esse assunto ele disse: “Às vezes me surpreendo quando vejo pessoas do setor tecnológico que dizem que não devemos ter essa regulação. Quando compramos uma caixa de leite no mercado, não nos preocupamos se é seguro bebê-lo, porque sabemos que tem uma base de segurança que garante isso. Se essa é, como acho que é, a tecnologia mais avançada do planeta, não acho que seja irracional pedir para que tenha pelo menos tanto controle de segurança como temos para uma caixa de leite”.

E você? O que acha de tudo isso?

Fontes: The Register e El País

Sobre o Autor

Cearense. 34 anos. Apaixonado por tecnologia e cultura. Trabalho como redator tech desde 2011. Já passei pelos maiores sites do país, como TechTudo e TudoCelular. E hoje cubro este fantástico mundo da tecnologia aqui para o HARDWARE.
Leia mais
Redes Sociais:

Deixe seu comentário

X