Especialistas em inteligência artificial defendem criação de um interruptor físico para desligar as IAs

Nesta semana, um conjunto de cientistas trouxe a público um estudo, veiculado pela renomada Universidade de Cambridge, sugerindo a implementação de um mecanismo de desativação manual em dispositivos de inteligência artificial. Uma espécie de “botão do pânico” para o caso das coisas darem muito errado.

Este estudo, que contou com a colaboração de diversos pesquisadores da OpenAI, organização por trás do desenvolvimento do badalado ChatGPT e líder no setor de IA generativa, propõe a inclusão de componentes físicos no hardware dessas plataformas capazes de cessar a operação dessas tecnologias quando necessário. Nos próximos parágrafos trago mais detalhes sobre essa ideia.

Leia também
Este celular não tem aplicativos e funciona só com inteligência artificial
Qual a origem do termo inteligência artificial?

Botão de “Liga/Desliga” para as IAs

A sugestão feita pelos acadêmicos é equiparada a um dispositivo de emergência para a IA. Tal dispositivo, conhecido como kill switch, refere-se a qualquer botão ou mecanismo de segurança projetado para desligar equipamentos em situações de risco. Por exemplo, nas esteiras de academias há um botão vermelho bem grande que a pessoa pode apertar caso perceba que está passando mal ou que a máquina está indo rápido demais. Ao apertar esse botão a esteira é desligada na hora.

Dos 19 co-autores do estudo, cinco são parte da equipe da OpenAI, entidade atualmente vista como a vanguarda no campo da inteligência artificial. A fama do ChatGPT e suas funcionalidades experimentaram um crescimento exponencial desde o seu lançamento, em novembro de 2022. O crescimento continuou mesmo com as diversas limitações da ferramenta e alguns episódios onde o chatbot claramente estava sendo preguiçoso.

Esse avanço do ChatGPT incitou uma verdadeira “corrida das IAs generativas” e instigou discussões sobre os perigos potenciais dessa tecnologia. Empresas como Google com seu Gemini, anteriormente chamado de Bard, a Meta com lançamentos de IA para gerar imagens por meio de texto, e a Samsung com a introdução da Galaxy AI no Galaxy S24, entre outras iniciativas, são alguns dos competidores dessa corrida.

Segundo os pesquisadores, é relativamente fácil colocar o kill switch

Para enfrentar prováveis problemas de segurança, os autores defendem a inserção de kill switches no hardware das IAs. Eles apontam que, dado o número limitado de fabricantes de GPUs com foco em inteligência artificial generativa, predominantemente a Nvidia, seria relativamente simples o controle sobre quem acessa essa tecnologia e a monitoração de seu uso inapropriado.

A pesquisa sugere que a implementação de um botão de emergência nas GPUs é viável, permitindo que autoridades regulatórias o acionem ao detectar violações. Esse sistema de segurança também poderia se autoativar diante de usos indevidos.

Além disso, os cientistas propõem que as empresas de IA sejam obrigadas a obter uma licença de operação, renovável periodicamente, semelhante aos alvarás tradicionais, para continuar seus trabalhos de pesquisa e desenvolvimento. A falta de renovação resultaria na suspensão do sistema. Essa abordagem de controle, contudo, também apresenta o risco de se tornar um alvo para ataques cibernéticos.

Caso você queira acessar o paper na íntegra, basta clicar neste link (PDF).

Presidente da Microsoft também é a favor do kill switch para IA

Apesar de não ser um dos autores do estudo, Brad Smith, presidente da Microsoft, comentou durante uma entrevista ao jornal El País que também é a favor dessas medidas de segurança mais drásticas.

Ele comentou o seguinte sobre o assunto: “... algo que me chama a atenção, depois de 30 anos nesta indústria, é que a vida imita a arte. É surpreendente que existam 50 filmes com o mesmo roteiro: uma máquina que pensa por si própria e decide escravizar ou extinguir a humanidade, e a humanidade luta e a vence. O que isso nos diz a respeito? Que precisamos ter uma forma de desacelerar ou desligar a IA, especialmente se está controlando um sistema automatizado de infraestrutura crítica”.

Apesar de ser uma das maiores investidores da OpenAI e de ter abraçado as ferramentas de inteligência artificial, a Microsoft já se declarou a favor da regulação das IAs. O próprio presidente da companhia já fez propostas ao Senado com ideias para tal regulação.

Ainda sobre esse assunto ele disse: “Às vezes me surpreendo quando vejo pessoas do setor tecnológico que dizem que não devemos ter essa regulação. Quando compramos uma caixa de leite no mercado, não nos preocupamos se é seguro bebê-lo, porque sabemos que tem uma base de segurança que garante isso. Se essa é, como acho que é, a tecnologia mais avançada do planeta, não acho que seja irracional pedir para que tenha pelo menos tanto controle de segurança como temos para uma caixa de leite”.

E você? O que acha de tudo isso?

Fontes: The Register e El País