Inovação

Apoio

O reconhecimento facial é racista? Uma questão para IBM, Microsoft e Amazon

A morte do americano George Floyd abriu uma discussão que estava latente sobre a tecnologia de reconhecimento facial. Na esteira dessa questão, IBM, Amazon e Microsoft anunciaram o abandono ou a suspensão de seus produtos e serviços. O debate não é novo, mas ganhou outra dimensão

 

Quando as imagens chocantes da morte do americano George Floyd circularam pelo mundo, elas foram fortes suficientes para retirar milhões de pessoas de suas casas, que foram às ruas protestar contra o racismo em meio a maior pandemia deste século.

Indiretamente, a morte de Floyd atingiu também outro alvo: a tecnologia de reconhecimento facial. Há muito tempo, esse método de reconhecer rostos de pessoas está envolto em polêmicas.

De um lado, há o debate sobre privacidade. De outro, há o viés do algoritmo. Estudos têm mostrado que a tecnologia é mais propensa a cometer erros de identificação de rostos de negros e de outras minorias do que o de pessoas brancas.

Essas preocupações se intensificaram à medida que as táticas policiais e o uso da tecnologia pela polícia passam por intenso escrutínio com a onda de protestos por conta da morte de Floyd.

Agora, essas preocupações chegaram ao mundo dos negócios, com três das maiores empresas por trás dessa tecnologia abandonando ou suspendendo o uso do reconhecimento facial, um mercado que pode movimentar US$ 7 bilhões em 2024, segundo a consultoria MarketsandMarkets.

Primeiro foi a IBM, que, em carta enviada ao Congresso americano, nesta semana, informou que não vai mais desenvolver ferramentas de reconhecimento facial para vigilância em massa ou para qualquer outro propósito que viole direitos e liberdades humanos.

Na sequência foi a vez da Amazon. A varejista online fundada por Jeff Bezos anunciou que vai proibir a polícia de usar seu programa de reconhecimento facial Rekognition por um ano. Mais: pediu normas rígidas para que sua tecnologia seja utilizada eticamente no futuro.

“Defendemos regulações governamentais mais rígidas sobre o uso ético das tecnologias de reconhecimento facial e o Congresso parece pronto para enfrentar esse desafio”, defendeu a empresa, em um comunicado.

Na quinta-feira, 11 de junho, a Microsoft se uniu aos rivais e decidiu limitar o uso de seus sistemas de reconhecimento facial, anunciando que não venderá a tecnologia a departamentos de polícia até que haja uma lei federal que a regule.

“A conclusão que chegamos é proteger os direitos humanos das pessoas à medida que se implementa esta tecnologia”, afirmou Brad Smith, presidente da Microsoft, ao The Washington Post.

A atitude de três das maiores empresas de tecnologia do planeta são os primeiros sinais de uma mudança na forma de encarar o reconhecimento facial. Mas é preciso analisar o movimento de IBM, Amazon e Microsoft de maneira diferente.

“A IBM reconheceu que perdeu o jogo neste campo e deixar de lado o reconhecimento facial não afetará o negócio e, de quebra, dá uma saída honrosa e de forte apelo emocional”, diz Cezar Taurion, vice-presidente de inovação da CiaTécnica Consulting, presidente do Instituto de Inteligência Artificial Aplicada e titular da coluna Mente Programada, no NeoFeed.

No caso de Amazon e Microsoft, a história é diferente. As duas companhias não estão abandonando a tecnologia. Ao contrário. Elas estão pedindo uma regulação.

“A Amazon, por exemplo, adotou uma moratória de um ano no fornecimento de seu software de reconhecimento facial Rekognition à polícia, mas não a outros clientes”, afirma Taurion. “E sua declaração não menciona outros produtos, como o Ring, que embute tecnologia de reconhecimento facial.”

Não bastasse isso, outros fornecedores não estão seguindo IBM, Amazon e Microsoft. Em especial, os chineses, que são atualmente os principais rivais dos Estados Unidos. Para Taurion, há muito de relações públicas nessas ações, mas também é um sinal de que “o reconhecimento facial é cada vez mais politicamente tóxico”. “Vamos ver se outros grandes players como Google e Apple seguem essa linha”, diz o executivo.

Algoritmos racistas?

O fato é que os protestos contra o racismo nos Estados Unidos e no mundo colocaram o debate sobre o viés dos algoritmos de reconhecimento facial sob a ribalta. Mas as polêmicas relacionadas à tecnologia não são novas.

Nos últimos anos, a tecnologia de reconhecimento facial avançou bastante por conta de supercomputadores que processam as informações. Mas mesmo assim há ainda muitas imprecisões em suas análises.

Em um estudo de dois anos atrás, pesquisadores do Massachusetts Institute of Technology (MIT) descobriram diferenças significativas de acurácia nos sistemas de reconhecimento facial da IBM e da Microsoft em relação ao sexo e a cor da pele.

No ano passado, a Universidade da Califórnia (UCLA), por exemplo, desistiu de usar reconhecimento facial em seu campus. A tecnologia vinha sendo avaliada como ferramenta de segurança, para identificar os frequentadores da universidade.

A desistência ocorreu após a ONG Fight for the Future fazer um teste com o software Rekognition, da Amazon, comparando as faces de 400 alunos, professores e funcionários aos rostos de criminosos e contraventores fichados. O resultado mostrou 58 falsos positivos. A maior parte das respostas erradas ocorreu na avaliação de rostos de pessoas não brancas.

Estudo da National Institute of Standards and Technology (Nist), do governo dos EUA, trouxe dados ainda mais alarmantes. Analisando 189 algoritmos de reconhecimento facial, a pesquisa chegou a conclusão de que eles são muito menos precisos na identificação de rostos afro-americanos e asiáticos em comparação com os caucasianos.

As mulheres afro-americanas eram ainda mais propensas a serem identificadas incorretamente, indicou o estudo, divulgado em dezembro do ano passado. Os algoritmos analisados eram de empresas como Intel, Microsoft, Toshiba, Tencent e Didi Chuxing.

No Brasil, um levantamento realizado pela Rede de Observatório da Segurança constatou que 90% das 151 prisões por reconhecimento facial que aconteceram no país eram de pessoas negras. Os dados foram coletados de março a outubro do ano passado, na Bahia, Rio de Janeiro, Santa Catarina, Paraíba e Ceará.

“O reconhecimento facial tem se mostrado uma atualização high-tech para o velho e conhecido racismo que está na base do sistema de justiça criminal e tem guiado o trabalho policial há décadas”, diz um trecho do relatório Rede de Observatório da Segurança.

Os defensores do sistema alegam que o reconhecimento facial pode melhorar a segurança pública. O que não deixa de ser verdade. Como bem lembra Taurion, a tecnologia é neutra, seu uso, no entanto, é outra coisa. “Há diversas aplicações, inclusive na medicina, detectando doenças que médicos não conseguem enxergar a olho nu”, diz Taurion.

É o velho ditado que diz que a diferença entre o remédio e o veneno é a tamanho da dose. Os protestos antirracistas, ao menos, estão fazendo com que as empresas e os políticos se debrucem sobre o tema para criar padrões de uso éticos e que respeitem a privacidade. Possivelmente, sem viés.

Siga o NeoFeed nas redes sociais. Estamos no Facebook, no LinkedIn, no Twitter e no Instagram. Assista aos nossos vídeos no canal do YouTube e assine a nossa newsletter para receber notícias diariamente.

Leia também

UM CONTEÚDO:

NEOFEED REPORT

Baixe o relatório “O mapa de ataque das grandes empresas”

VÍDEOS

Assista aos programas CAFÉ COM INVESTIDOR e CONEXÃO CEO