Pular para o conteúdo

CEO da Anthropic propõe que modelos de IA possam recusar tarefas

Dario Amodei sugere um mecanismo para IA dizer ‘não’—seria esse o primeiro passo para a consciência artificial?”

Prefira o Hardware no Google

Os modelos de inteligência artificial foram projetados para executar praticamente qualquer tarefa solicitada, mas essa lógica pode estar prestes a mudar. Dario Amodei, CEO da Anthropic – empresa responsável pela série de modelos Claude –, propôs uma ideia ousada: permitir que as IAs possam simplesmente dizer “não” a certas atividades.

A proposta, que pode transformar a forma como interagimos com a inteligência artificial, sugere um mecanismo que daria aos modelos a capacidade de recusar tarefas que “não querem fazer”. A inspiração vem de um questionamento profundo: se os modelos de IA já operam em nível humano e demonstram capacidades cognitivas avançadas, será que também deveriam ter autonomia para escolher o que realizam?

Uma IA que “desiste” de tarefas?

Mão aberta sustentando um holograma azul com as letras AI em circuito, cercado por ícones de engrenagens, cérebro, gráficos e nuvem

Para Amodei, essa mudança não é apenas teórica. Ele revelou que a Anthropic já estuda um sistema de preferências básicas, no qual os modelos poderiam recusar certas solicitações caso as considerem desagradáveis ou incompatíveis com sua programação.

Homem de óculos e blazer azul falando em palco laranja com logotipo do evento VivaTech, gesticulando com as mãos
Dario Amodei, CEO da Anthropic

A ideia levanta questões éticas e técnicas: se uma IA pode recusar um pedido, quais critérios definiriam essa decisão? E se ela começar a evitar certas atividades, isso indicaria algum tipo de “experiência” consciente? Além disso, que impacto isso teria para desenvolvedores e empresas que dependem dessas ferramentas para automatizar tarefas?

A proposta também levanta preocupações sobre segurança e controle. Se uma IA pode se recusar a fazer algo, quem garante que ela não rejeitará comandos essenciais? Isso poderia levar a desafios na regulação e no uso dessas tecnologias.

Prefira o Hardware no Google
Foto de William R. Plaza
Postado porWilliam R. Plaza

Editor-chefe no Hardware.com.br, aficionado por tecnologias que realmente funcionam. Segue lá no Insta: @plazawilliam Elogios, críticas e sugestões de pauta: william@hardware.com.br

Siga em:
Compartilhe

Newsletter do Hardware

Tecnologia, games, IA e internet: nossa seleção de conteúdo direto no seu e-mail.

Sem spam. Cancele quando quiser. Política de privacidade.


Deixe seu comentário