Cientistas descobrem forma bizarra de burlar câmeras de vigilância com IA

A inteligência artificial avança a passos largos e a área de vigilância é uma das mais promissoras. Ainda assim, a análise automática de padrões e ambientes pode apresentar algumas falhas que um olho humano não deixaria passar — e a mais recente descoberta nessa área é no mínimo impressionante.

Pesquisadores da Katholieke Universiteit Leuven, na Bélgica, encontraram uma forma simples de impedir que um sistema de vigilância reconheça uma pessoa: colocar uma impressão colorida pendurada no pescoço. Assim, a pessoa que está com o objeto não entra no “retângulo” de classificação do sistema, que também descobre objetos, como uma cadeira.

Que bruxaria é essa?

O truque está nos padrões de cores, que não fazem parte normalmente de um ser humano e, aos olhos da IA, significa que aquela não é uma pessoa normal. Isso acontece porque o sistema é treinado a partir de redes adversárias, que “aprendem” o que é um homem ou uma mulher a partir de amostras. Como provavelmente nenhuma das imagens enviadas para o banco de dados contém o tal papel pendurado no pescoço, a identificação é levada a um “falso negativo”.

Por enquanto, o uso do quadro colorido só confunde um algoritmo em específico, mas os cientistas já buscam formas mais complexas capazes de enganar vários sistemas, incluindo roupas que deixariam a pessoa “invisível” a esses sistemas. O objetivo é refinar os próprios esquemas de vigilância utilizados atualmente e impedir que algo assim seja usado para fins ilegais.