Dados, algoritmos, desinformação e os riscos para a democracia

Estamos vivendo uma profunda conversão do nosso cotidiano em um gigantesco fluxo de dados. Os dispositivos e sistemas de informação estão sendo desenvolvidos e organizados para a coleta permanente de dados com o objetivo de alimentar uma série de tecnologias de inteligência para automatizar atividades, extrair padrões de comportamento de pessoas e objetos, bem como, para realizar predições ou previsões.

Em 2018, o Banco Mundial publicou um relatório chamado “Information and Communications for Development 2018: Data-Driven Development[1]”, nele alertou que o maior desafio estava em “extrair valor dos dados e colocá-los para funcionar - para empresas, governos e indivíduos”. Informava ainda que “as empresas estariam dispostas a pagar quantias cada vez maiores por nossa atenção em sites de mídia social e para explorar os dados que produzimos”.

O que aconteceu na primeira década do século XXI foi a consolidação de um modelo de negócios altamente lucrativo que se baseou na oferta de interfaces e serviços gratuitos[ii]. Diante da crise de lucratividade em diversos setores do capitalismo, as empresas de tecnologia passaram a armazenar, processar e tratar dados pessoais para produzir perfis de seus usuários e organizá-los em amostras de comportamentos, gostos, interesses e até mesmo ideologias. O acesso a essas amostras era vendido para quem tivesse dinheiro para pagar. Assim, o marketing, a publicidade e as campanhas políticas foram atraídas para a segmentação e microssegmentação dos processos. Com isso, a modulação das atenções a partir do tratamento de dados se tornou a nova religião e a crença do mundo dos empreendimentos.

Para tratar essa quantidade crescente de dados são necessários sistemas algorítmicos e uma infraestrutura computacional descomunal. A gestão desses dados é realizada principalmente por algoritmos de inteligência artificial, mais especificamente os algoritmos de aprendizado de máquina e aprendizado profundo. Estes vão se tornando os principais gerentes e operadores de inúmeras atividades: os motores de busca do Google, os sistemas de recomendação do Youtube, a organização da timeline do Facebook e Instagram, a alocação de veículos do Uber, os diversos sites de comércio eletrônico, a obtenção de informações de empresas e governos, entre outras tantas aplicações.

Os arranjos empresariais que melhor se adaptam a essa intensa dataficação são as plataformas. Essas empresas organizam infraestruturas digitais e interfaces capazes de reunir a oferta e a demanda por um determinado produto ou serviço. A Uber é um exemplo de plataforma, pois reúne dados de quem precisa trabalhar oferecendo um veículo de transporte individual e daquelas pessoas que precisam contratar quem oferece um carro para sua locomoção pela cidade. A Uber não precisa ter um único carro, ela precisa ter dados da oferta e demanda por veículos, bem como, precisa gerenciar com velocidade os processos. Plataformas são empresas de dados que modulam as atenções e o comportamento dos ofertantes e demandantes de algum segmento do mercado ou atividade social.

A operação dos algoritmos das plataformas é invisível para quem as utiliza. Talvez isso não seja considerado um grande problema nas relações comerciais, mas a opacidade e a ofuscação são inaceitáveis para a democracia.

A operação dos algoritmos das plataformas é invisível para quem as utiliza. Talvez isso não seja considerado um grande problema nas relações comerciais, mas a opacidade e a ofuscação são inaceitáveis para a democracia. Isso porque os sistemas algorítmicos podem interferir e desvirtuar a simetria necessária à distribuição de mensagens ou discursos entre as forças que disputam os rumos políticos das sociedades.  A democracia não existe com base apenas na escolha dos governantes. Para sobreviver, a democracia deve assegurar condições equitativas ou simétricas entre aqueles que disputam a formação da opinião pública. Nas redes de relacionamento online não sabemos se os algoritmos estão beneficiando apenas o poder econômico, ou seja, aqueles que têm mais dinheiro para pagar o impulsionamento de seus conteúdos. Também não sabemos se os sistemas algoritmos reduzem ou bloqueiam a visualização de determinadas frases ou palavras, diminuindo o alcance de certos posicionamentos políticos, gerando uma censura não declarada, mas executada com precisão.

Uma pesquisa realizada com mais de 2 milhões de tweets em 7 países foi publicada em 2022 em um artigo denominado “Algorithmic Amplification of Politics on Twitter”[iii]. Nela, em 6 dos 7 países foi constatado que o sistema algorítmico do Twitter recomendava ou amplificava mais mensagens de direita do que de esquerda em uma confirmação inequívoca de interferência indevida na formação da opinião pública. Na série investigativa realizada pelo The New York Times sobre o Facebook, foi verificado que apesar dos algoritmos da rede social buscarem detectar padrões de comportamento prejudicial para interrompê-los, o sistema chamado “XCheck”, permitia que mais de 5 milhões de usuários VIPs pudessem publicar conteúdo sem restrições do processo normal de fiscalização do Facebook[iv]. Esses dois exemplos, demonstram que as plataformas de relacionamento social online atuam sem transparência e com interferência inapropriada e injusta no espaço público digital.

Para agravar o cenário político atual, as chamadas forças políticas da extrema direita decidiram romper com o debate racional baseado em fatos e substitui-lo pela disseminação de valores reacionários e contrários aos direitos sociais e à diversidade cultural, racial e de gênero. Assim, sua principal estratégia nas redes digitais tem sido a disseminação da desinformação e do discurso de ódio, bem como, ataques a um regime de verdade baseado na ciência e na interpretação de fatos. O objetivo dessas forças políticas é criar um caso informacional, uma névoa de confusão e de destruição dos parâmetros de realidade. Observa-se com clareza a emergência de mobilizações autoritárias que exploram a tendência de os algoritmos ampliarem os discursos espetaculares. Além disso, o Capital, sem limites, impulsiona o pagamento da desinformação nas redes sociais online.

A gestão algorítmica opaca e a modulação das atenções realizadas pelas plataformas precisam ser supervisionadas pelas instituições democráticas. A autorregulação dessas gigantescas estruturas digitais pelos seus donos, administradores ou pelos seus conselhos de acionistas não irá elevar as necessidades democráticos acima dos seus interesses lucrativos. Por isso, a regulação pública é a recomendada por ser mais transparente, mais diversificada e mais justa que a regulação privada. Ela é hoje indispensável para garantirmos a democracia diante dos ataques do neoliberalismo autoritário e do fascismo digital.

Um dos argumentos mais utilizados no Brasil pelos adeptos do atual presidente -- defensor da ditadura militar, da tortura e da violência como solução de divergências na condução do país – é que a regulação das plataformas online representaria a censura. Curiosamente quem pratica a censura, reduz a visualização de conteúdos, bloqueia postagens de modo arbitrário são os algoritmos moderadores dessas plataformas. Quando o bilionário Elon Musk anunciou a aquisição do Twitter, os grupos de extrema direita vibraram. Por quê? Os extremistas acreditam que Musk irá liberar o discurso de ódio sem restrições, rompendo acordos efetuados com a Justiça brasileira.

Não parece aceitável confundir a liberdade de expressão com a liberdade de fazer ameaças, agressões, de disseminar preconceitos misóginos, homofóbicos, transfóbicos ou um discurso racista. A liberdade de agressão e de imposição da voz do mais rico e do mais forte destrói a liberdade de expressão. O ideal democrático exige simetria, equivalência de direitos.

A regulação das plataformas pretende impedir que a aliança entre poder invisível executado pelos sistemas algorítmicos aliados ao poder ilimitado dos detentores do Capital possam destruir a democracia.  A regulação democrática deve ser realizada com a participação de diversos segmentos da sociedade civil e da comunidade tecnocientífica. O que se pretende é saber quais tipos de dados são coletados, como e com que finalidade são tratados, além de conhecer as finalidades das operações dos algoritmos e modelos que operam a gestão das plataformas. 

Nos próximos meses, o país viverá uma turbulenta campanha eleitoral em que as plataformas digitais e os aplicativos de mensagem instantânea ocuparão uma posição decisiva. O que está em jogo é se a sociedade democrática conseguirá reorganizar sua força diante do fascismo e de sua violência discursiva e presencial. Para vencer as eleições, o fascismo brasileiro fará da desinformação sua arma estratégica. O papel da sociedade civil organizada, dos defensores dos direitos humanos, do meio ambiente, dos direitos sociais, dos movimentos feministas, pelos direitos LGBTQI+, da luta antirracista em defesa da diversidade, dos coletivos tecnopolíticos, entre outros, será decisivo. Teremos que estar em estado de alerta para garantir que a democracia prevaleça diante de uma modulação algorítmica enviesada, das milícias digitais, dos produtores de desinformação que buscarão hegemonizar o país para impor um poder instrumentário que assolaria o respeito às diferenças. A democracia nunca dependeu tanto de uma cidadania ativa.

Este artigo faz parte da publicação “A democracia aceita os termos e condições? Eleições 2022 e a política com os algoritmos”, disponível para download gratuitamente aqui.

REFERÊNCIAS

HUSZÁR, Ferenc et al. Algorithmic amplification of politics on Twitter. Proceedings of the National Academy of Sciences, v. 119, n. 1, 2022.

SILVEIRA, Sérgio Amadeu. Inteligência artificial baseada em dados e as operações do capital. PAULUS: Revista de Comunicação da FAPCOM, v. 5, n. 10, 2021. Disponível em: https://fapcom.edu.br/revista/index.php/revista-paulus/article/view/480

WORLD BANK.Crossing Borders. Disponível em: https://wdr2021.worldbank.org/stories/crossing-borders/

WORLD BANK. Information and Communications for Development 2018: Data-Driven Development. 2018.

THE NEW YOUR TIMES. What Facebook Knows. Published Sept. 17, 2021. https://www.nytimes.com/2021/09/17/business/dealbook/facebook-files-whi…