Escola dos EUA desativa detector de armas com IA após sistema confundir objetos comuns com armas
Uma escola de ensino médio na Pensilvânia, nos Estados Unidos, precisou desativar o seu sistema de detecção de armas baseado em inteligência artificial após meses de testes sem conseguir resolver um problema recorrente: a tecnologia confundia objetos cotidianos dos estudantes com possíveis armas.
A Hempfield Area High School participava de um programa para testar o Wi-AI, uma tecnologia desenvolvida pela CurvePoint, empresa derivada da Universidade Carnegie Mellon. O sistema utiliza sinais de Wi-Fi para identificar possíveis armas escondidas, mas apresentou dificuldades para distinguir ameaças reais de materiais escolares e outros objetos comuns.
Sistema utiliza sinais de Wi-Fi para identificar armas escondidas
Diferentemente dos detectores tradicionais, o Wi-AI não depende de câmeras para identificar possíveis ameaças. A tecnologia utiliza pequenos sensores chamados SensePods, instalados próximos às entradas da escola, para analisar como pessoas e objetos transportados por elas interferem na propagação das ondas de rádio.
O software procura padrões que possam indicar a presença de uma arma escondida e, caso encontre algo suspeito, pode enviar alertas à equipe de segurança por mensagem de texto, e-mail ou um painel de monitoramento. A CurvePoint também afirma que a tecnologia consegue acompanhar movimentações e a ocupação dos ambientes sem armazenar informações que identifiquem individualmente as pessoas.
O problema apareceu durante o treinamento do sistema. Mesmo após meses de testes, a inteligência artificial continuava confundindo armas com objetos comuns carregados pelos estudantes, incluindo fichários, garrafas de água metálicas e baterias portáteis.
A expectativa era que o Wi-AI alcançasse uma taxa de precisão de 95%, o que poderia permitir sua adoção como principal sistema de segurança da escola. No entanto, o superintendente Mark Holtzman afirmou à emissora WTAE-TV que o resultado estava muito longe dessa meta.
Empresa admite problemas e escola volta ao detector tradicional
Skip Smith, cofundador e CEO da CurvePoint, explicou que a Hempfield participou como local de testes e avaliação da tecnologia, e não como uma instalação operacional definitiva. A empresa continuará desenvolvendo e avaliando o sistema, mas não oferece suporte para implantações operacionais neste momento e ainda não possui uma data para disponibilizá-lo.
Smith atribuiu os problemas a desafios ambientais que afetam a confiabilidade e a consistência da tecnologia. Com o encerramento do programa, o distrito escolar receberá de volta o dinheiro pago pelos detectores, já que o sistema nunca chegou a ser implementado em tempo integral.
Pennsylvania high school disables AI weapons detector after it keeps mistaking everyday items for guns
byu/AdSpecialist6598 intechnology
A reação da comunidade foi majoritariamente crítica, especialmente em relação à decisão de colocar uma tecnologia ainda pouco confiável em um ambiente tão sensível quanto uma escola. No Reddit, usuários questionaram a ideia de lançar sistemas de IA antes que eles estejam suficientemente testados, resumindo a situação como mais um exemplo da mentalidade de “colocar a carroça na frente dos bois”.
Um dos comentários mais votados destacou que falsos positivos podem ser ainda mais problemáticos em sistemas de segurança, já que um alerta incorreto pode provocar uma intervenção policial desnecessária. Outro usuário lembrou que, em ambientes como hospitais, tecnologias críticas passam por testes rigorosos justamente porque uma falha pode colocar vidas em risco.
Também houve críticas à própria escolha de utilizar IA para substituir soluções tradicionais. Alguns usuários defenderam detectores de metal, enquanto outros apontaram que falsos positivos frequentes podem fazer com que funcionários simplesmente passem a ignorar os alertas, reduzindo a eficácia do sistema justamente quando uma ameaça real aparecer.
O caso de Maryland, em que uma IA confundiu uma embalagem de Doritos com uma arma e acabou contribuindo para uma abordagem policial contra um estudante, também foi lembrado diversas vezes. Para parte da comunidade, o episódio reforça que um falso positivo em um sistema de segurança não é apenas um erro estatístico: dependendo de como o alerta é tratado, ele pode colocar estudantes em uma situação potencialmente perigosa.
O caso da Hempfield Area High School mostra um dos problemas mais perigosos da aplicação de inteligência artificial em sistemas de segurança: um erro pode gerar consequências reais. A ideia por trás do Wi-AI é interessante, ao não depender de câmeras e sem precisar armazenar informações pessoais, ele poderia oferecer uma alternativa menos invasiva aos métodos tradicionais. O problema é que uma tecnologia desse tipo precisa ser extremamente confiável antes de ser colocada em uma escola.
A IA pode até ser boa em encontrar padrões que seriam difíceis para seres humanos identificarem, mas a segurança é justamente uma área em que “quase sempre funciona” não é bom o bastante.

Newsletter do Hardware
Tecnologia, games, IA e internet: nossa seleção de conteúdo direto no seu e-mail.
Inscrição feita!As próximas edições chegam no seu e-mail.


