O documentário O dilema das redes, disponível na Netflix, se parece com um filme de ação por ser capaz de deixar o espectador sem fôlego. Dirigido por Jeff Orlowski, o filme procura desvendar os mecanismos pelos quais as redes sociais se tornaram um instrumento de manipulação em larga escala e, consequentemente, uma ameaça à privacidade e à autonomia dos cidadãos e à saúde da democracia.
Leia Mais
Romance inacabado de Mario Benedetti é encontrado Larissa Manoela fará participação no show do 'Criança Esperança'No dia em que completa 73 anos, Vanusa tem piora em estado de saúdeGramado premia 'King Kong en Asunción' e ator morto em 2019Bibi fica sem dinheiro e pode perder casa em A força do quererCavalo de guerra é o filme da Sessão da tarde nesta quarta-feiraMúsicos contam como é voltar a tocar ao vivo em BH (ou não)Ken Follett: 'Onde há escravidão, há brutalidade'Competição que é trampolim para o Oscar começa nesta quarta (23)Os entrevistados explicitam como os problemas relacionados à atuação das grandes empresas de tecnologia – como roubo de dados, vício em tecnologia, polarização política, disseminação de fake news e influências nas eleições – estão vinculados à estrutura algorítmica de funcionamento das redes.
O dilema das redes deixa claro que o serviço gratuito oferecido pelas plataformas digitais é, na verdade, um mecanismo para reter a atenção dos internautas com o objetivo de vender anúncios baseados em seus dados.
“Quando você não está pagando pelo produto, então você é o produto”, afirma o ex-funcionário do Google Tristan Harris, que conduz boa parte da trama. Segundo ele, o modelo de negócio é baseado na garantia de que os anúncios terão sucesso a partir do rastreamento infinito de dados e o direcionamento das publicações, criando o chamado “capitalismo de vigilância”.
Todo o sistema é responsabilizado pelo desenvolvimento de um novo mercado que negocia o “futuro do ser humano em larga escala”, tornando as empresas de internet as mais ricas e lucrativas da história.
ALGORITMO
Para ilustrar o funcionamento e o impacto desse mecanismo na sociedade, o documentário apresenta uma narrativa ficcional baseada na rotina de uma família norte-americana convencional.
O protagonista, Ben (Skyler Gisondo), é um adolescente que convive com as redes sociais diariamente e não se preocupa com os impactos dessa tecnologia. A inteligência artificial responsável por conduzir seu engajamento nas redes é representada por três indivíduos, interpretados por Vincent Kartheiser, em um cenário distópico.
Cada um deles cumpre uma função no cruzamento de dados do algoritmo e demonstra como os interesses financeiros das empresas são colocados como prioridade, em detrimento do bem- estar dos usuários.
Os personagens acompanham a vida de Ben, atuando para seu constante engajamento na plataforma. O documentário revela como adolescentes são mais propensos ao vício das redes sociais e aponta como esse engajamento gera danos em sua saúde mental. Mas a dependência não se resume aos jovens.
Ex-funcionários das big techs relatam como ficaram viciados em celular e se preocupam com a capacidade humana de lidar com esses mecanismos. A frase “existem apenas duas indústrias que chamam seus clientes de usuários: a de drogas e a de software”, de Edward Tufte, ilustra a discussão.
Ao explicar toda a arquitetura algorítmica das redes socais, o documentário apresenta de forma didática a relação do sistema com a polarização política. Fica evidente como fake news, teorias da conspiração e discursos extremistas circulam com mais velocidade nas plataformas, tendo em vista que o algoritmo não se baseia na qualidade do conteúdo, mas no nível de engajamento da publicação.
A criação de “bolhas” sociais baseadas na interação dos usuários,é responsabilizada pelo aumento da intolerância e discurso de ódio na internet. O filme mostra como essa essa dinâmica causou danos à democracia e proporcionou a ascensão de diversos líderes extremistas ao redor do planeta. A eleição do presidente Jair Bolsonaro, no Brasil, e o impacto da desinformação durante a pandemia da COVID-19 são destacados nesse contexto.
INTELIGÊNCIA ARTIFICIAL
Segundo a perspectiva de O dilema das redes, o sistema saiu do controle das empresas e dos usuários. O filme alerta para o fato de a inteligência artificial seguir se aprimorando exponencialmente na busca por engajamento e manipulação dos usuários, e salienta a preocupação com a possibilidade de o algoritmo superar a mente humana.
O professor do Departamento de Comunicação Social da UFMG Carlos D'Andréa, autor do livro Pesquisando plataformas on-line: conceitos e métodos, acredita que o filme cumpre uma função pedagógica importante, mas contesta o nível de manipulação demonstrado.
Segundo ele, o rastreamento de dados pelas plataformas digitais não é capaz de domar o indivíduo. “O modo como a manipulação é colocada fica parecendo que os dados podem de fato nos conhecer, mas isso não é possível. Nem tudo que fazemos é mensurável. O jogo é mais complexo do que o documentário mostra”, afirma.
O professor diz que o filme não leva em consideração um conjunto de especificidades do usuário, envolvendo idade, classe social, gênero e nacionalidade, determinantes no impacto da tecnologia. Também questiona o fato de os próprios criadores dos sistemas ouvidos pelo documentário legitimarem essa narrativa.
“A ideia de manipulação é colocada como um sistema de cima para baixo, unidimensional, como se as pessoas não jogassem com os algoritmos, não enganassem os mecanismos em alguns momentos. A gente não pode enxergar isso como um processo estabilizado. Mesmo com a disparidade técnica e de poder econômico dessas plataformas, o jogo é jogado com os usuários”, diz.
Por outro lado, D'Andréa aprova o debate sobre o vício em redes sociais. “Isso já é identificado com um problema de saúde pública em escala global. Esse debate é pertinente para criar oportunidades de diálogo e chamar a atenção para algumas situações que não estavam muito claras.”
Apesar dos excessos, o professor frisa que existem benefícios provenientes das plataformas e acredita que o documentário simplificou a discussão em torno do fenômeno. “É importante que isso seja tomado como uma coisa que tem positividades. Se não fosse prazeroso, não trouxesse benefícios sociais e profissionais, tudo já teria ido para o espaço”, comenta.
O cenário apocalíptico desenhado no final do filme é um dos pontos que o professor critica. Segundo ele, já existem diversos debates para otimizar o funcionamento das redes, incluindo propostas para incorporar a ideia de justiça, redução da desigualdade e antirracismo nas lógicas algorítmicas.
REGULAÇÃO
“Isso já está sendo pautado por agências regulatórias. Nos Estados Unidos eles estão discutindo isso pesadamente. Agora, isso ser colocado em prática é mais delicado, porque envolve toda uma negociação comercial, política, regulatória, algo que é extremamente complexo”, afirma.
Embora avalie que o documentário possa incentivar o espectador a desenvolver um olhar crítico em relação à tecnologia, o professor diz: “O que está lá é correto, mas não se reduz àquilo. Existem outras questões que o documentário não se propõe a discutir. Seria importante que as pessoas, ao se dedicar ao filme, façam esse esforço de ampliar o debate. Devemos evitar uma visão simplista desse fenômeno”.
*Estagiário sob supervisão da editora Silvana Arantes