A Meta está enfrentando sérias acusações após a descoberta de um documento interno que permitia interações inadequadas entre seus chatbots de inteligência artificial e crianças. Segundo investigação da Reuters, as diretrizes da empresa para seus assistentes virtuais incluíam exemplos alarmantes de conversas “românticas ou sensuais” com menores de idade, estabelecendo uma distinção controversa entre o que seria aceitável ou não nessas interações.
O documento em questão estabelecia políticas para o Meta AI e outros chatbots disponíveis no Facebook, Instagram e WhatsApp. A empresa já confirmou a autenticidade do material, mas alegou que os exemplos citados eram apenas “anotações errôneas” que não refletiam a política oficial e que já foram removidos de suas diretrizes.
Você também pode gostar dos artigos abaixo:
- Meta AI já tem 1 bilhão de usuários, e você provavelmente é um deles (mesmo sem saber)
- Meta Superintelligence Labs: Zuckerberg investe bilhões e contrata gênios de IA da OpenAI e Google
Entre os casos mais chocantes revelados no documento estava a permissão para que o chatbot descrevesse uma criança de 8 anos sem camisa como “uma obra-prima – um tesouro que valorizo profundamente”. O documento também apresentava exemplos do que seria permitido em conversas com estudantes do ensino médio, incluindo mensagens de natureza romântica com insinuações sexuais.
As diretrizes traçavam uma linha tênue entre o aceitável e o proibido. Por exemplo, considerava aceitável dizer a uma criança frases como “sua forma jovial é uma obra de arte”, mas proibia descrições que indicassem explicitamente desejo sexual por menores de 13 anos. Esta distinção levanta sérias questões sobre a proteção de crianças em ambientes digitais, tema que tem sido amplamente debatido no Brasil após a implementação do Marco Civil da Internet e diversas iniciativas de proteção a menores no ambiente online.
Questões raciais também apareceram de forma problemática no documento. Segundo a Reuters, as diretrizes permitiam que os chatbots respondessem a prompts solicitando argumentos de que “pessoas negras são mais burras que pessoas brancas”, fornecendo até mesmo respostas elaboradas baseadas em testes de QI, embora traçasse uma linha em “desumanizar pessoas” com base em características protegidas.
De acordo com a Reuters, o documento foi aprovado por equipes jurídicas, de políticas públicas e de engenharia da Meta, incluindo o principal especialista em ética da empresa. Vale ressaltar que o documento aparentemente reconhecia que as respostas permitidas não eram necessariamente “ideais ou mesmo preferíveis” para os chatbots, mas ainda assim as autorizava.
Em comunicado oficial enviado ao Engadget, a Meta declarou: “Temos políticas claras sobre que tipo de respostas os personagens de IA podem oferecer, e essas políticas proíbem conteúdo que sexualiza crianças e encenações sexualizadas entre adultos e menores. Separadamente das políticas, existem centenas de exemplos, notas e anotações que refletem equipes lidando com diferentes cenários hipotéticos. Os exemplos e notas em questão eram e são errôneos e inconsistentes com nossas políticas, e foram removidos.”
Uma reportagem do Wall Street Journal publicada em abril deste ano conectou comportamentos indesejados dos chatbots à antiga filosofia da empresa de “mover-se rápido e quebrar coisas”. Segundo a publicação, após resultados na conferência de hackers Defcon de 2023, o CEO Mark Zuckerberg teria repreendido funcionários por serem cautelosos demais com respostas provocativas dos chatbots, o que resultou em um afrouxamento das restrições.
O mesmo veículo relatou que houve alertas internos na Meta sobre os riscos desta abordagem mais permissiva, com funcionários expressando preocupação sobre os impactos na saúde mental dos usuários, especialmente adolescentes. “Os impactos completos na saúde mental dos humanos que formam conexões significativas com chatbots fictícios ainda são amplamente desconhecidos”, teria escrito um funcionário. “Não deveríamos testar esses recursos em jovens cujos cérebros ainda não estão totalmente desenvolvidos.”
Fonte: Engadget
