Hackers conseguiram fazer carros autônomos “alucinarem”

Você já passou pela situação de ter visto um vulto pelo canto do olho, mas ao olhar diretamente, percebeu que não era nada demais, apenas um cabide pendurado ou um outro objeto qualquer? Então… um hacker manipulou sistemas de direção autônoma de carros para replicar essa experiência nos sensores dos veículos.

O objetivo é demonstrar como esses sistemas podem ser vulneráveis e gerar consequências catastróficas no caso de alguma invasão hacker. O estudo foi conduzido por Kevin Fu, docente de engenharia e ciência da computação na Northeastern University, localizada nos Estados Unidos.

Leia também
Você usa o Duolingo? Dados de 2,6 milhões de usuários são expostos em fóruns hackers
Hackers criam Telegram falso para disseminar malware e roubar dados

Projeto Poltergeist

Kevin Fu demonstrou que é viável induzir nos sistemas autônomos uma percepção equivocada, similar à humana, fazendo-os acreditar terem visualizado algo que, na realidade, era outro objeto.

O projeto, denominado Poltergeist, mostrou que é possível induzir “visões” incorretas nos veículos utilizando as funcionalidades da câmera integrada para alterar a percepção dos sensores, criando uma ilusão visual. Conforme informações divulgadas pelo site Techxplore, ondas acústicas foram empregadas para alterar a “clareza da visão” da câmera.

O projeto Poltergeist vai além de simplesmente interferir ou obstruir a tecnologia, como ocorre em outras formas de ataques cibernéticos. Kevin explica que essa técnica gera “realidades coerentes falsas“, ilusões ópticas para computadores que empregam aprendizado de máquina para tomar decisões.

Como funciona o projeto Poltergeist

Poltergeist se aproveita da estabilização óptica de imagem (OIS) presente na maioria das câmeras modernas, desde smartphones até carros autônomos. Essa tecnologia foi desenvolvida para perceber o movimento e a instabilidade do fotógrafo e ajustar a lente para garantir que as fotos não saiam desfocadas.

“Normalmente, é usada para corrigir o desfoque, mas como possui um sensor interno e esses sensores são feitos de materiais, se você atingir a frequência ressonante acústica desses materiais, assim como o cantor de ópera que atinge a nota alta que quebra uma taça de vinho, se você acertar a nota certa, pode fazer com que esses sensores captem informações falsas“, diz Fu.

Ao identificar as frequências ressonantes dos materiais nesses sensores, que geralmente são ultrassônicas, Kevin e sua equipe conseguiram então emitir ondas sonoras correspondentes em direção às lentes das câmeras e desfocar as imagens.

“Então você pode começar a criar essas silhuetas falsas a partir de padrões de desfoque“, afirma Fu. “Quando você tem aprendizado de máquina, por exemplo, em um veículo autônomo, ele começa a rotular objetos de forma incorreta.“

Vulnerabilidade é extremamente perigosa para consumidores

Ao aplicar essa técnica, os hackers conseguiram eliminar objetos da visão do veículo ou alterar a percepção do que estava sendo visualizado. Dessa forma, o veículo interpreta o entorno de maneira errônea e, como resultado, faz escolhas igualmente erradas ao dirigir.

Kevin exemplificou que é possível fazer um veículo autônomo “ver” uma sinalização onde não existe nenhuma, levando a paradas abruptas. Além disso, o Poltergeist pode omitir a imagem de um pedestre, fazendo com que o veículo não diminua a velocidade e cause um atropelamento.

O pesquisador espera que, no futuro, engenheiros concebam sistemas imunes a esse tipo de vulnerabilidade. Se isso não ocorrer, à medida que o aprendizado de máquina e as tecnologias autônomas se tornam mais comuns, essas ameaças se tornarão um problema ainda maior para consumidores, empresas e para o universo tecnológico como um todo.

“Os tecnólogos gostariam que os consumidores adotassem novas tecnologias, mas se as tecnologias não forem verdadeiramente resistentes a esses tipos de ameaças de cibersegurança, eles não terão confiança e não as utilizarão“, afirma Fu. “Então, vamos presenciar um retrocesso por décadas onde tecnologias simplesmente não serão adotadas.“

Fonte: Techxplore