Projeto da Coding Rights explica como raça, gênero e território são percebidos pelo Reconhecimento Facial

‘From Devices to Bodies’ é uma série de curta-documentários na web sobre dados coletados de diferentes corpos em diversos territórios. O projeto da Coding Rights, em parceria com a Heinrich Böll Brasil, promove entrevistas com o objetivo de fundamentar e ampliar debates sobre a implementação de tecnologias que utilizam dados sobre nossos corpos.

 

Reconhecimento facial, raça, gênero e território é tema de estudo da Coding Rights

O primeiro episódio do web documentário é sobre os desafios de direitos humanos enfrentados pela crescente coleta de informações de DNA por empresas e agências de aplicação da lei nos Estados Unidos, Brasil e Reino Unido, mas também com a análise de alguns estudos de caso de outras partes do globo. Essa edição, que pode ser vista na íntegra clicando aqui, traz trechos do painel “A tale on DNA data collection”. Na ocasião, Joana Varon e Mariana Tamari, da equipe da Coding Rights, se juntaram a Jennifer Lynch, Diretora de Litígios sobre Vigilância da Electronic Frontier Foundation (EFF) e Helen Wallace, Diretora Executiva da GeneWatch, em um bate-papo virtual sobre a coleta de dados de DNA.

O projeto parte da primícia de que, além dos dispositivos eletrônicos, nossos corpos também se tornaram fontes de dados. Do reconhecimento facial à coleta de informações de DNA, extrair dados sobre nossos corpos é uma tendência que só cresce. 

O segundo episódio recebe a pesquisadora do MIT, Joy Buolamwini, a pesquisadora e ativista Mariah Rafaela e a cientista da computação Nina Da Hora. As participantes se engajam em uma discussão que tem o uso do reconhecimento facial utilizado por órgãos de segurança pública como tema central. Elas explicam que as ferramentas de identificação dos rostos organizam a sociedade a partir dos critérios que já foram postos por eles. 

Homens brancos, que, sem sombra de dúvidas, são os criadores desta tecnologia, são identificados em 99% das vezes, com baixíssima margem de erro. Por outro lado, a identificação facial de mulheres negras tem uma taxa de erro de aproximadamente 30%. A partir dessa perspectiva, quando se coloca na balança quem mais será prejudicado com o sistema impreciso do reconhecimento, que poderá definir o destino de alguém, os corpos já marginalizados socialmente também correm mais riscos de não serem reconhecidos ou até mesmo confundidos. 

O estudo mostra que o reconhecimento facial adjetiva os corpos com descrições como “seguro”, “saudável”, “mais inteligente”. Essas são narrativas comuns por trás da biotecnologia e das tecnologias digitais que monitoram nossos corpos a fim de compor conjuntos de dados que, cruzados com as informações de nossas interações digitais, estão levando práticas preocupantes de criação de perfis a outro nível. 

A pesquisa dirigida pela pesquisadora do MIT, Joy Buolamwini, analisou dados da IBM, da Microsoft e da Face ++, empresas que detém informações sobre os rostos da maior parte do mundo. Todas essas empresas detectam melhor rostos masculinos do que rostos femininos e em sujeitos claros que em peles escuras. Dados impressionantes da pesquisa mostram erros grotescos desses reconhecimentos faciais, com fotos antigas de mulheres negras, até mesmo de personalidades famosas, que não podem ser identificadas ou são identificadas com erros pelos sistemas. 

Assim, o projeto visa enfatizar que o contexto da Covid-19 também está acelerando essa tendência. Mesmo com o aumento do uso da tecnologia, a falta de regulamentação adequada não é muito discutida. “ [esses corpos] estão sendo analisados ​​por algoritmos que reproduzem as desigualdades de gênero em todas as suas interseccionalidades de raça, sexualidade, classe, etnia, etc. Tudo sob uma tendência contínua de práticas abusivas no compartilhamento de dados e monetização de dados sensíveis”, afirma Joy Buolamwini no segundo episódio do mini documentário que pode ser acessado clicando aqui. 

Para a pesquisadora e ativista Mariah Rafaela Silva, falar de tecnologia de reconhecimento facial no Brasil é também falar de política de segurança pública, pois ela irá “continuar mitigando a experiência de vida das pessoas racializadas”, afirma Mariah. 

Além disso, se já era crítico que o consentimento foi dado às plataformas digitais por um simples clique de um botão "concordar" (projetado como um compromisso com termos de serviços e políticas de privacidade não lidos), quando os dados são coletados de nossos corpos, o que isso realmente significa consentir? As perguntas propostas pelas idealizadoras do projeto são: “e se os titulares dos dados forem imigrantes que cruzam fronteiras, reclusos em final de pena ou pacientes do COVID-19? E se nosso DNA for usado por um parceiro suspeito e patriarcal para testes de infidelidade?”