A verdade está lá fora

Na década de 1990, Danna Scully e Fox Mulder eram os agentes especiais mais famosos das telas. O seriado Arquivo X (1993-2002) conquistava milhares de fãs pelo mundo ao representar instituições reais sob a ótica das teorias da conspiração, mostrando fenômenos paranormais e alienígenas. Conforme apontado por Quinan (2020)[1], a série já era assunto frequente nos primórdios da internet como a conhecemos hoje. Existiam fóruns para discutir os episódios e seus acontecimentos, muitas vezes transpondo-os para a realidade, além, é claro, das discussões acerca do relacionamento do casal principal da série.

A série tinha o lema icônico “A verdade está lá fora”, instigando seu público a questionar as instituições tradicionais e buscar a verdade em outros espaços. A ressignificação desta frase para o momento atual, no auge da disseminação de teorias conspiratórias internet afora, nos traz a um cenário sombrio no qual as Big Techs[2] controlam o fluxo de informação que chega aos usuários, como chega e quando chega, servindo muitas vezes como fonte de desinformação massiva.

Nos últimos anos, vimos as discussões em espaços digitais tomarem proporções muito maiores e mais graves, ocasionando até mesmo manifestações em massa no mundo real, como aquelas de julho de 2013 aqui no Brasil. Essas manifestações foram amplamente acordadas em espaços como Facebook e acabariam por ser o ovo da serpente no surgimento da extrema direita no Brasil, culminando no impeachment da presidente eleita Dilma Rousseff, em 2016 e na eleição de Jair Bolsonaro para a Presidência.

Além disso, as redes sociais como o Whatsapp e o YouTube tiveram papel fundamental na disseminação de ideais ultraconservadores e fundamentalistas. De lá para cá, é possível ver uma piora no cenário. Com a pandemia, o negacionismo e as teorias conspiratórias estão causando estragos severos por todo o mundo. Até mesmo Scully e Mulder ficariam chocados com a recusa de parcelas da população de diversos países a tomar vacinas ou as ideias de que o coronavírus seria um plano de dominação mundial chinês, difundidas até mesmo por chefes de Estado, e contrariando toda e qualquer evidência científica. A situação é tão grave que as plataformas passaram a deletar conteúdos do tipo ou exibir anúncios de que a informação é potencialmente falsa. Apesar disto, precisamos, como sociedade civil, estar a par destas ações e participar ativamente destes debates, garantindo, no mínimo, uma participação e outros atores sejam ouvidos.

É nesse contexto que convidamos Sérgio Amadeu (UFABC) para uma conversa sobre os possíveis rumos das plataformas de redes sociais neste ano eleitoral, a dualidade e as implicações do uso de Inteligência Artificial e as previsões sobre o Metaverso e a realidade virtual. Sérgio também é criador, editor e apresentador do Podcast Tecnopolítica, projeto apoiado pela Fundação Heinrich Böll.

Confira a entrevista abaixo.

Fundação H. Böll: Estamos em ano de eleições e o uso das plataformas de redes sociais, aplicativos e utilização de big data nas campanhas têm ganhado cada vez mais espaço no cenário eleitoral. As eleições brasileiras de 2018 foram marcadas pelos disparos em massa por meio do Whatsapp e a disseminação de desinformação. O que podemos esperar deste ano? As plataformas têm atualizado suas políticas de moderação de conteúdo. Mas elas estão mais preparadas para a enxurrada de desinformação?

Sérgio Amadeu: O atual fenômeno da desinformação tem diferenças significativas dos boatos e mentiras tradicionais nas disputas políticas. Primeiro, as redes digitais permitem uma distribuição massiva e, simultaneamente, microssegmentada, ou seja, é possível atingir pessoas específicas e estimular medos e receios desses grupos sociais. Segundo, a extrema direita mundial decidiu romper com a democracia e com o debate racional baseado em fatos. Por isso, a desinformação é uma estratégia global do novo fascismo. Assim, atacam a ciência e as universidades, como temos visto atualmente no enfrentamento da pandemia. As plataformas, por sua vez, ganham muito dinheiro com a espetacularização da vida. Não são principalmente os discursos radicais que mais ganham acesso nas redes de relacionamento online, são discursos espetaculares, mesmo que infundados, desinformativos. As plataformas são gerenciadas por sistemas algorítmicos que são inteiramente opacos. Em uma recente pesquisa realizada no Twitter denominada ‘Examining algorithmic amplification of political content on Twitter’ foi constatado que os algoritmos do Twitter amplificam mais os discursos dos políticos e dos sites de direita se comparados com outras perspectivas ideológicas. Sem dúvida, as plataformas devem moderar conteúdos conforme seus termos de uso, entretanto, elas precisam estar sob supervisão pública. Não podemos dar mais poder às plataformas. Elas se colocam como espaços de debate público, por isso, devem seguir os princípios democráticos e não autocráticos. Não podemos aceitar que elas estejam acima da nossa Constituição democrática.

Fundação H. Böll: As tecnologias que utilizam inteligência artificial têm sido cada vez mais usadas no Brasil. Quais são os riscos e oportunidades que você enxerga para este cenário? Qual sua opinião sobre a necessidade de regulação do uso dessas tecnologias?

Sérgio Amadeu: A Inteligência Artificial (IA) é uma expressão genérica para uma série de tecnologias. Atualmente, o aprendizado de máquina e o aprendizado profundo são as soluções de IA mais utilizadas. Elas se baseiam em dados que alimentam sistemas estatísticos de probabilidade. Temos um gigantesco armazenamento e tratamento de dados com a finalidade de extrair padrões e realizar predições. A IA é ambivalente. Está sendo utilizada para melhorar diagnósticos médicos, encontrar os melhores trajetos para distribuição de mercadorias, mas também para vigiar com biometria facial as chamadas classes perigosas e os segmentos mais fragilizados das populações. A IA precisa estar sob o controle democrático da sociedade. Devemos banir ou, no mínimo, obter uma moratória das tecnologias de IA empregadas de modo a perpetuar e ampliar a discriminação racial, tal como a biometria facial. Devemos proibir o uso de biometria de voz para que o marketing identifique o estado emocional das pessoas. Por outro lado, soluções de detecção de enfermidades pela voz estão sendo empregadas e podem ser úteis para realizar prevenção. Mas até que ponto, isso pode virar uma mercadoria nas mãos dos corretores de dados? Acho que precisamos ter uma agência independente, composta pelos representantes dos poderes do Estado e da sociedade civil, com técnicos capazes de fazer valer a democracia e os direitos individuais e coletivos quando pensamos em IA. A atual Agência Brasileira de Proteção de Dados está subordinada ao presidente da República e capturada pelos interesses econômicos. Precisamos alterar sua composição e suas vinculações.

Fundação H. Böll: O podcast Tecnopolítica já tem dois anos e 129 episódios. É um grande feito. O que podemos esperar em 2022?

Sérgio Amadeu: O podcast Tecnopolítica surgiu de uma conversa com a [Fundação H.] Boll. Foi uma experiência muito intensa de decodificar o poder embarcado nos códigos e mostrar que as tecnologias podem portar interesses econômicos e políticos. Foi uma ação de enfrentamento da alienação técnica. Em 2022, vamos continuar a mostrar como a tecnologia tem modificado nossas relações sociais, econômicas e políticas; como as tecnologias incorporam o poder e os mecanismos de sujeição. Em especial, queremos mostrar áreas que antes pareciam distantes das tecnologias digitais e hoje estão sofrendo mudanças importantes com a expansão das plataformas high techs, tais como, a agricultura, saúde e a educação. Também queremos expor as disputas geopolíticas pelos materiais e infraestruturas estratégicas, bem como os combates pela liderança tecnológica, por exemplo, da IA e da computação quântica. Além disso, estamos vendo a ampliação da coleta e tratamento de dados, o bloqueio da tecnodiversidade e de outras visões de como desenvolver e inventar tecnologias. A questão do fluxo internacional de dados, a extração de dados sensíveis da nossa população, o empobrecimento tecnocientífico promovido pela doutrina neoliberal serão abordados. Sem dúvida, o Tecnopolítica deverá também acompanhar a conjuntura brasileira. Estaremos preparados para esclarecer os ataques à democracia diante das tentativas de utilizar as redes neurais artificiais, deep fakes e outras tecnologias para desinformar.

Fundação H. Böll: Em parceria com outros pesquisadores, você lançou recentemente o livro "Colonialismo de dados: como opera a trincheira algorítmica na guerra neoliberal", que fala sobre países, especialmente do Sul Global, como territórios de "extração de dados". Poderia falar mais sobre este conceito de colonialismo de dados?

Sérgio Amadeu: Estamos vivendo uma situação completamente contraditória. Ao mesmo tempo que os gestores públicos brasileiros alardeiam que os dados têm alto valor econômico, eles promovem a transferência de dados de segmentos da nossa população para as Big Techs e plataformas. Esses dados servem para treinar e aprimorar os modelos de Inteligência Artificial que as plataformas digitais utilizarão para vender produtos e serviços no Brasil, como também para modular o comportamento das pessoas a partir das tecnologias de predição e de influência. Um fato chocante e que obteve o silêncio dos grandes órgãos de imprensa nessa direção ocorreu sob o comando do ministro Paulo Guedes. Foi criado um aplicativo para os servidores e pensionistas federais, mais de um milhão de pessoas, chamado SouGov. Toda vez que um servidor federal estiver consultando o chat do aplicativo, seus dados serão enviados para a IBM-Watson, nos Estados Unidos. Conforme o próprio termos de uso do aplicativo diz, esses dados servirão para “prover o aprendizado de máquina da ferramenta de chat denominada ‘Watson’”. O governo do Brasil entrega dados valiosos das interações de seus servidores públicos para uma empresa sediada em um país com legislação incompatível com a Lei Geral de Proteção de Dados. Isso não é um problema, nem um escândalo, não serve a uma notinha na imprensa. Essa invisibilidade do fato pode ser compreendida como o silêncio imposto pela colonialidade, pelas estruturas de poder e submissão que permanecem embora o colonialismo histórico não exista mais. Na atual divisão internacional de poder cabe a países como o Brasil ser fornecedor de dados para o desenvolvimento de produtos e serviços digitais que ele irá adquirir das Big Techs. Também as startups brasileiras e de países do Sul Global devem integrar o ecossistema das plataformas de modo a criar soluções utilizando a infraestruturas dessas megaempresas. Você imaginaria, os Estados Unidos armazenando e tratando dados de seus servidores, civis e militares, fora da jurisdição norte-americana, para treinar os modelos algorítmicos de empresas com interesses econômicos e políticos no país?

Fundação H. Böll: Por fim, recentemente Mark Zuckerberg anunciou o novo rumo para suas redes sociais: o Metaverso, um espaço digital onde, através de avatares e realidade virtual, diversas interações sociais seriam possíveis, desde uma ida ao supermercado até reuniões de trabalho ou com amigos. Qual a sua perspectiva sobre o tema?

Sérgio Amadeu: O metaverso é uma gigantesca operação de marketing que visa o reposicionamento do Facebook que está sob pressão de diversas agências estatais, devido às práticas algorítmicas antiéticas e antidemocráticas. Sem dúvida alguma, existem diversos empreendimentos que visam encontrar caminhos atrativos com simuladores virtuais e espaços de interação digital profunda. Existe desde 2003, o espaço virtual 3D chamado Second Life. Não empolgou. Existem diversos games e plataformas que podem ser explorados como universos virtuais. Por exemplo, no Minecraft, os usuários exploram um mundo tridimensional pixelizado, construído por blocos, com milhares de possibilidades de criação. Existe ainda o VRChat, o Roblox, entre outros espaços baseados na simulação da realidade. Quanto mais aumente a capacidade de processamento computacional, melhorem as placas de vídeo, avancem as tecnologias holográficas, mais teremos experimentos de 3D. Por enquanto, temos um discurso que vem junto com promessas absurdas e com a ideia de criar mundos digitais mais proprietários do que na nossa realidade. O sonho de Zuckeberg é trazer todos os viventes para dentro de um espaço em que seus sistemas algorítmicos tenham total controle. A humanidade é muito maior do que o sonho totalitário do dono do Facebook e de seus acionistas majoritários.