Nossos hábitos democráticos foram mortos por uma cleptocracia vinda da internet que lucra com a desinformação, polarização e raiva. Veja como podemos consertar isso.

Por Anne Applebaum e Peter Pomerantsev

img

Ler o diário de Gustave de Beaumont, o companheiro de viagem de Alexis de Tocqueville, é entender o quão primitivo o deserto americano parecia para os franceses visitantes. Em um único mês, dezembro de 1831, Tocqueville e Beaumont estavam em um navio a vapor que afundou; montaram então uma diligência, a qual teve um um eixo quebrado; e assim se abrigaram em uma cabana — uma deles acamado devido a uma doença não identificada — enquanto o médico mais próximo ficava a dois dias de caminhada. Ainda assim, eles continuaram encontrando pessoas cuja desenvoltura eles admiravam e continuaram coletando as observações que eventualmente levaram Tocqueville a escrever “Democracia na América” — o relato clássico dos princípios ordenadores, comportamentos e instituições que fizeram a democracia funcionar neste país em expansão.

O interesse de Tocqueville pelas instituições americanas refletia mais do que mera curiosidade: Em sua França natal, uma revolução lançada com ideais igualmente elevados sobre igualdade e democracia terminou mal. Seus pais quase foram guilhotinados durante a onda de violência que se seguiu aos acontecimentos importantes de 1789. Em contraste, a democracia americana funcionou — e ele queria entender por quê.

Notoriamente, ele encontrou muitas das respostas em instituições estaduais locais, e até mesmo em comunidades. Ele escreveu aprovando o federalismo americano, que “permite que a União desfrute do poder de uma grande república e da segurança de uma pequena”. Ele gostava das tradições da democracia local também, as “instituições municipais” que “dão ao povo o gosto pela liberdade e a arte de ser livre”. Apesar dos vastos espaços vazios de seu país, os americanos se encontraram, tomaram decisões e realizaram projetos juntos. Os americanos eram bons em democracia porque praticavam a democracia. Eles formaram o que ele chamou de “associações”, a miríade de organizações que agora chamamos de “sociedade civil”, e o fizeram em todos os lugares:

Não apenas [os americanos] têm associações comerciais e industriais das quais todos participam, mas também milhares de outros tipos: religiosas, morais, importantes, fúteis, muito gerais e muito particulares, imensas e muito pequenas; os americanos usam as associações para dar festas, iniciar seminários, construir pousadas, levantar igrejas, distribuir livros, enviar missionários aos antípodas; assim criam hospitais, prisões, escolas; em todo lugar que, à frente de um novo empreendimento, você costuma ver o governo quando na França e um grande senhor quando na Inglaterra, aqui nos EUA, você terá uma associação.

Tocqueville avaliou que o verdadeiro sucesso da democracia na América repousava não nos grandes ideais expressos em monumentos públicos ou mesmo na linguagem da Constituição, mas nesses hábitos e práticas. Na França, os filósofos discutiam em grandes salões os princípios abstratos da democracia, mas os franceses comuns não tinham ligações especiais uns com os outros. Em contraste, os americanos trabalharam juntos: “Assim que vários dos habitantes dos Estados Unidos constroem o sentimento ou a ideia sobre o que querem produzir no mundo, eles se procuram; e quando eles se encontram, eles se unem”

Nos quase dois séculos que se passaram desde que Tocqueville escreveu essas palavras, muitas dessas instituições e hábitos se deterioraram ou desapareceram. A maioria dos americanos não tem mais muita experiência em democracia de “município”. Alguns também não têm mais muita experiência em associações, no sentido tocquevilliano. Há 25 anos, o cientista político Robert Putnam já descrevia o declínio do que chamou de “capital social” nos Estados Unidos: o desaparecimento de clubes e comitês, da comunidade e da solidariedade. À medida que as plataformas da Internet permitem que os americanos vivenciem o mundo por meio de lentes solitárias e personalizadas, esse problema se transformou em algo totalmente diferente.

Com a transferência indiscriminada de tanto entretenimento, interação social, educação, comércio e política do mundo real para o mundo virtual — um processo recentemente acelerado pela pandemia do coronavírus — muitos americanos passaram a viver em uma inversão de pesadelo do sonho tocquevilliano, um novo tipo de deserto. Muitos americanos modernos agora buscam camaradagem online, em um mundo definido não pela amizade, mas pela anomia e alienação. Em vez de participar de organizações cívicas que lhes dão um senso de comunidade e também experiência prática em tolerância e construção de consenso, os americanos se juntam a turbas na Internet, nas quais ficam submersos na lógica da multidão, clicando em “Curtir” ou “Compartilhar” e seguindo em frente. Em vez de entrar em uma praça pública da vida real, eles vagam anonimamente para espaços digitais onde raramente encontram oponentes; quando o fazem, é apenas para difaçá-los.

A conversa nesta nova esfera pública americana é governada não por costumes e tradições estabelecidas a serviço da democracia, mas por regras estabelecidas por algumas empresas com fins lucrativos a serviço de suas necessidades e receitas. Em vez dos regulamentos de procedimento que orientam uma reunião municipal na vida real, a conversa é governada por algoritmos projetados para captar a atenção, colher dados e vender publicidade. As vozes dos participantes mais raivosos, emocionais, divisivos — e muitas vezes os mais dúbios — são ampliadas. Vozes razoáveis, racionais e matizadas são muito mais difíceis de ouvir; a radicalização se espalha rapidamente. Os americanos se sentem impotentes, e de fato são.

Neste novo deserto, a democracia está se tornando impossível. Se uma metade do país não pode ouvir a outra, os americanos não podem mais ter instituições compartilhadas, tribunais apolíticos, um serviço civil profissional ou uma política externa bipartidária. Não podemos nos comprometer. Não podemos tomar decisões coletivas — não podemos nem mesmo concordar sobre o que estamos decidindo. Não é de se admirar que milhões de americanos se recusem a aceitar os resultados da última eleição presidencial, apesar dos veredictos dos comitês eleitorais estaduais, autoridades republicanas eleitas, tribunais e Congresso. Não somos mais a América que Tocqueville admirava, mas nos tornamos a debilitada democracia que ele temia, um lugar onde cada pessoa,

retirada e separada, é como um estranho em relação ao destino de todos os outros: seus filhos e seus amigos particulares formam para ele toda a espécie humana; quanto a morar com seus concidadãos, ele está ao lado deles, mas não os vê; ele os toca e não os sente; ele existe apenas em si mesmo e apenas para ele mesmo, e se mesmo que a família ainda permaneça, pode-se pelo menos dizer que ele não tem mais pátria.

As autocracias do mundo há muito entenderam as possibilidades oferecidas pelas ferramentas que as empresas de tecnologia criaram e as utilizaram. Os líderes da China construíram uma Internet baseada na censura, intimidação, entretenimento e vigilância; O Irã proíbe sites ocidentais; Os serviços de segurança russos têm o direito legal de obter dados pessoais de plataformas de mídia social compatíveis com o Kremlin, enquanto fazendas de trolls amigáveis com o Kremlin inundam o mundo com desinformação. Autocratas, tanto aspirantes quanto reais, manipulam algoritmos e usam contas falsas para distorcer, assediar e espalhar “fatos alternativos”. Os Estados Unidos não têm uma resposta real para esses desafios, e não é de admirar: Não temos uma Internet baseada em nossos valores democráticos de abertura, responsabilidade e respeito pelos direitos humanos. Temos, outrossim, um sistema online controlado por um pequeno número de empresas secretas no Vale do Silício que estão de serem algo democrático, pelo contrário, são oligopolistas e até mesmo oligárquicas.

E, no entanto, mesmo enquanto a conversa nacional da América atinge novos níveis de vitríolo, podemos estar perto de um ponto de inflexão. Mesmo com a deterioração de nossa política, uma internet que promove os valores democráticos em vez de destruí-los — que torna a conversa melhor em vez de pior — está ao nosso alcance. Algum tempo atrás os idealistas digitais eram sonhadores. Em 1996, John Perry Barlow, letrista do Grateful Dead e um dos primeiros utópicos da internet, previu que um novo amanhecer da democracia estava prestes a explodir: “Governos do mundo industrial, seus gigantes cansados de carne e aço, venho do ciberespaço, a nova casa da mente”, declarou ele, de um lugar onde “os sonhos de Jefferson, Washington, Mill, Madison, DeToqueville [sic], e Brandeis (…) agora devem nascer de novo”

Essas ideias parecem estranhas — tão desatualizadas quanto aquela outra ideia dos anos 1990, a inevitabilidade da democracia liberal. No entanto, eles não precisam ser assim. Uma nova geração de ativistas, advogados, designers, reguladores e filósofos da Internet está nos oferecendo essa visão, mas agora com base na tecnologia moderna, estudos jurídicos e ciências sociais. Eles querem ressuscitar os hábitos e costumes que Tocqueville admirava, colocá-los online, não apenas na América, mas em todo o mundo democrático.

Como as redes sociais tornaram o mundo mais louco

No surreal interregno que se seguiu às eleições de 2020, o preço da recusa dos Estados Unidos em reformar sua internet subitamente tornou-se muito alto. O então presidente Donald Trump e seus apoiadores divulgaram uma narrativa inteiramente falsa de fraude eleitoral. Essas reivindicações foram reforçadas em canais de televisão de extrema direita, depois repetidas e amplificadas no ciberespaço, criando uma realidade alternativa habitada por milhões de pessoas onde Trump havia de fato vencido. QAnon — uma teoria da conspiração que explodiu da internet subterrânea e inundou plataformas como YouTube, Facebook e Instagram, convencendo milhões de que as elites políticas são uma conspiração de pedófilos globalistas — se espalhou pelo mundo real e ajudou a inspirar as turbas que invadiram o Capitólio. O Twitter tomou a extraordinária decisão de banir o presidente dos EUA por encorajar a violência; a quantidade de desinformação eleitoral em circulação caiu imediatamente.

Essas plataformas poderiam ter feito mais? Na verdade, o Facebook mantém um controle cuidadoso sobre a toxicidade do discurso americano. Muito antes da eleição, a empresa, que realiza testes frequentes e secretos em seu algoritmo de Feed de notícias, começou a brincar com diferentes maneiras de promover informações mais confiáveis. Entre outras coisas, o Facebook criou um novo sistema de classificação, projetado para rebaixar fontes espúrias e hiperpartidárias e aumentar o “conteúdo de notícias oficiais”. Pouco depois do dia da eleição, o sistema de classificação recebeu maior peso no algoritmo da plataforma, resultando em um “feed de notícias mais agradável” — um mais fundamentado na realidade. A mudança foi parte de uma série de “medidas de quebra-vidros” que a empresa anunciou que seriam implementadas em períodos de “tensão elevada”. Então, algumas semanas depois, tudo foi desfeito. Após a insurreição do Capitólio, em 6 de janeiro, a mudança foi restaurada, antes da posse de Joe Biden. Um porta-voz do Facebook não nos explicaria exatamente quando ou por que a empresa tomou essas decisões, como ela define “tensão elevada” ou quantas das outras “medidas quebra-vidro” ainda estão em vigor. Sua descrição publicada do sistema de classificação não explica como suas métricas para notícias confiáveis são ponderadas e, claro, não há supervisão externa dos funcionários do Facebook que estão tomando decisões sobre elas. O Facebook também não revelará nada sobre o impacto dessa mudança. A conversa no site ficou mais calma? O fluxo de desinformação cessou ou desacelerou como resultado? Nós não sabemos.

O próprio fato de que esse tipo de mudança é possível aponta para uma verdade brutal: O Facebook pode tornar seu site “mais legal”, não apenas depois de uma eleição, mas o tempo todo. Ele pode fazer mais para encorajar uma conversa civilizada, desencorajar a desinformação e revelar seu próprio pensamento sobre essas coisas. Mas não faz nada disso, principalmente porque os interesses do Facebook não são necessariamente os mesmos do público americano ou de qualquer público democrático. Embora a empresa tenha políticas destinadas a combater a desinformação e esteja disposta a fazer ajustes para melhorar o discurso, ainda estamos falano de uma organização com fins lucrativos que deseja que os usuários permaneçam no seu site o máximo possível e continuem voltando. Às vezes, esse objetivo pode levar a empresa a uma direção “mais agradável”, mas nem sempre, especialmente se os usuários permanecerem no site para se conectar com outros extremistas ou para ouvir seus preconceitos reforçados. Tristan Harris, um ex-especialista em ética de design do Google e que agora lidera o Center for Humane Technology, foi mais direto. “Os feeds de notícias no Facebook ou Twitter operam em um modelo de negócios que mercantiliza a atenção de bilhões de pessoas por dia”, escreveu ele recentemente. “Esse feed levou às pessoas às visões mais estreitas e loucas do mundo.”

Não que o Facebook seja o único responsável. O hiperpartidarismo e o pensamento conspiratório são anteriores à mídia social, e a manipulação de mensagens é tão antiga quanto a política. Mas o design atual da Internet torna mais fácil do que nunca atingir públicos vulneráveis com propaganda e dá mais destaque ao pensamento conspiratório.

Os botões que pressionamos e as declarações que fazemos online são transformados em dados, que são então alimentados em algoritmos que podem ser usados para nos traçar um perfil e nos direcionar por meio da publicidade. A auto-expressão não leva mais necessariamente à emancipação: Quanto mais falamos, clicamos e deslizamos online, menos poderosos somos. Shoshana Zuboff, professora emérita da Harvard Business School, cunhou o termo capitalismo de vigilância para descrever esse sistema. Os estudiosos Nick Couldry e Ulises Mejias o chamaram de “colonialismo de dados”, um termo que reflete nossa incapacidade de impedir que nossos dados sejam extraídos inadvertidamente. Quando falamos recentemente com Věra Jourová, que — como a maravilhosamente intitulada vice-presidente para valores e transparência — é a autoridade da União Europeia diretamente responsável por pensar sobre a democracia online, ela nos disse que quando ela entendeu pela primeira vez que “as pessoas na esfera online estão perdendo suas liberdades ao fornecer seus dados privados, dados esses que são usados de forma opaca ao se tornarem objetos e não sujeitos, foi uma forte lembrança da minha vida antes de 1989 na Tchecoslováquia”. Como tudo em nossas casas e vidas fica online — não apenas nossos telefones, mas nossas geladeiras e bicicletas ergométricas, nossas fotos de família e multas de estacionamento — cada pedacinho de nosso comportamento é transformado em bytes e usado por sistemas de inteligência artificial que não controlamos, mas que pode ditar o que vemos, lemos e compramos. Se Tocqueville fosse visitar o ciberespaço, seria como se ele tivesse chegado à América pré-1776 e encontrado um povo que era essencialmente impotente.

Sabemos que alternativas são possíveis, porque costumávamos tê-las. Antes que as plataformas comerciais privadas assumissem definitivamente o controle, os projetos online de interesse público floresceram brevemente. Alguns dos frutos daquele momento continuam vivos. Em 2002, o professor de Direito de Harvard Lawrence Lessig ajudou a criar a licença Creative Commons, permitindo que os programadores disponibilizassem suas invenções para qualquer pessoa online; a Wikipedia — que apesar de todo o escárnio uma vez direcionado em seu caminho emergiu como uma fonte de informação amplamente usada e principalmente imparcial — ainda opera sob uma. A Wikipedia é um vislumbre da internet que poderia ter sido: um espaço colaborativo sem fins lucrativos onde pessoas díspares seguem um conjunto comum de normas sobre o que constitui evidência e verdade, ajudadas por moderadores de espírito público. A colaboração online também teve um uso impressionante de 2007 a 2014, quando um advogado brasileiro chamado Ronaldo Lemos usou uma ferramenta simples, um plug-in WordPress, para permitir que brasileiros de todas as classes e profissões ajudassem a redigir uma “declaração de direitos da internet”. O documento acabou sendo inscrito na legislação brasileira, garantindo às pessoas liberdade de expressão e privacidade contra intrusões governamentais online.

Tudo isso começou a mudar com a chegada dos smartphones ao mercado de massa e uma mudança nas táticas das principais plataformas. O que o professor de Direito de Harvard, Jonathan Zittrain, chama de modelo “gerador” da Internet — um sistema aberto no qual qualquer um poderia introduzir inovações inesperadas — deu lugar a um modelo controlado, de cima para baixo e homogêneo. A experiência de usar a Internet mudou de ativa para passiva; depois que o Facebook introduziu seu Feed de notícias, por exemplo, os usuários não mais simplesmente pesquisaram no site, mas receberam um fluxo constante de informações, adaptado ao que o algoritmo pensava que eles queriam ler. À medida que algumas empresas passaram a controlar o mercado, elas usaram seu poder de monopólio para minar concorrentes, rastrear usuários pela Internet, coletar enormes quantidades de dados e dominar a publicidade.

É uma história sombria, mas não totalmente desconhecida. Os americanos deveriam reconhecê-la de sua própria história. Afinal, apenas algumas décadas depois de Tocqueville escrever “Democracia na América”, a economia dos Estados Unidos passou a ser controlada por apenas algumas empresas muito grandes. No final do século XIX, o país parecia condenado ao capitalismo monopolista, crise financeira, profunda desigualdade, perda de confiança nas instituições e violência política. Depois que o 25º presidente, William McKinley, foi assassinado por um anarquista, seu sucessor, Theodore Roosevelt — que denunciou a “obtenção injusta de dinheiro” que criou uma “pequena classe de homens enormemente ricos e economicamente poderosos, cujo objetivo principal é manter e aumentar seu poder ”- redigiu as regras. Ele acabou com os monopólios para tornar a economia mais justa, devolvendo o poder aos pequenos negócios e empresários. Ele decretou proteções para os trabalhadores. Ele criou os parques nacionais, espaços públicos para que todos possam desfrutar.

Nesse sentido, a internet nos remete à década de 1890: Mais uma vez, temos uma pequena classe de pessoas extremamente ricas e economicamente poderosas, cujas obrigações são para com elas mesmas, e talvez para com seus acionistas, mas não para o bem maior. Mas os americanos não aceitavam essa realidade na década de 1890 e não precisamos aceitá-la agora. Somos uma democracia; podemos mudar as regras novamente. Não se trata apenas de retirar o conteúdo ou mesmo de remover a conta do Twitter de um presidente — decisões que devem ser determinadas por um processo público, e não pelo arbítrio de uma empresa isolada. Devemos alterar o projeto e a estrutura dos espaços online para que os cidadãos, empresas e atores políticos tenham melhores incentivos, mais opções e mais direitos.

Theodore Roosevelt 2.0

Tom Malinowski sabe que algoritmos podem causar danos no mundo real. No ano passado, ele apresentou um projeto de lei, o “Protecting Americans From Dangerous Algorithms Act” (algo como “lei de proteção de cidadãos americanso contra algoritmos perigosos”), que, entre outras coisas, responsabilizaria as empresas se seus algoritmos promovessem conteúdo vinculado a atos de terrorismo. A legislação foi parcialmente inspirada por uma ação judicial de 2016 alegando que o Facebook havia fornecido “suporte material” ao grupo terrorista Hamas — seu algoritmo supostamente ajudou a direcionar recrutas em potencial para o caminho do Hamas. Os tribunais consideraram que o Facebook não era responsável pela atividade do Hamas, um escudo legal que Malinowski espera eliminar. Os reguladores, ele nos disse, precisam “mergulhar nas entranhas” das empresas e não se envolver em discussões sobre este ou aquele site ou blog. Outros no Congresso exigiram investigações de preconceitos raciais possivelmente ilegais perpetuados por algoritmos que, por exemplo, mostram a negros e brancos anúncios diferentes. Essas ideias representam o início de uma compreensão de como a regulamentação da Internet precisará ser diferente de tudo o que tentamos anteriormente.

Essa maneira de pensar tem algumas vantagens distintas. No momento, as empresas lutam intensamente para manter sua isenção de “responsabilidade intermediária”, garantida a elas pela agora infame Seção 230 da Lei de Decência nas Comunicações. Isso as libera da responsabilidade legal por quase todo o conteúdo postado em sua plataforma. Ainda assim, derrubar a Seção 230 pode significar que as empresas serão processadas ou começarão a retirar trechos de conteúdo para evitar serem processadas. Concentrar-se na regulamentação de algoritmos, por outro lado, significaria que as empresas não seriam responsáveis por cada minúsculo fragmento de conteúdo, mas teriam responsabilidade legal por como seus produtos distribuem e amplificam o material. Afinal, isso é o que essas empresas realmente fazem: organizar, direcionar e ampliar o conteúdo e os dados de outras pessoas. Elas não deveriam assumir a responsabilidade por isso?

Outros países já estão concentrando seus esforços regulatórios em engenharia e projeto. A França discutiu a nomeação de um auditor de algoritmo, que supervisionaria os efeitos da engenharia de plataforma no público francês. O Reino Unido propôs que as empresas avaliem o impacto dos algoritmos na distribuição ilegal de conteúdo e na atividade ilegal em suas plataformas. O resto da Europa também está caminhando nessa direção. A UE não quer criar um “Ministério da Verdade” ao estilo de 1984, disse Věra Jourová, mas não pode ignorar a existência de “estruturas organizadas destinadas a semear a desconfiança, minando a estabilidade democrática”. Devem ser tomadas medidas contra o “uso não autêntico” e a “exploração automatizada” se eles prejudicarem o “discurso cívico”, de acordo com a Lei de Serviços Digitais da UE, que busca atualizar o quadro jurídico para plataformas de policiamento. O foco regulatório na Europa está no monitoramento da escala e distribuição, não na moderação de conteúdo. Uma pessoa escrevendo um tweet ainda se qualificaria para proteção de liberdade de expressão — mas um milhão de contas de bot fingindo ser pessoas reais e distorcendo o debate em praça pública não. O Facebook e outras plataformas já rastreiam e desmantelam campanhas de desinformação e amplificação inautênticas — todos eles investiram pesadamente em equipe e software para realizar esse trabalho — mas dificilmente existem meio de auditar se ocorreu ou não sucesso na iniciativa. Os governos europeus estão buscando maneiras de que eles, e outros atores com mentalidade cívica, possam, pelo menos, monitorar o que as plataformas estão fazendo.

Ainda assim, alguns dos desafios conceituais aqui são grandes. O que se qualifica como conteúdo “legal, mas prejudicial”, como o governo do Reino Unido pretende classificar o conteúdo online? Quem traçará a linha entre a desinformação e o discurso cívico? Alguns pensam que concordar com essas definições na América será impossível. É uma “quimera” imaginar o contrário, diz Francis Fukuyama, um dos principais filósofos da democracia; “Você não pode impedir as pessoas de acreditarem em coisas realmente malucas, como vimos no mês passado”, ele nos disse em dezembro. O que Fukuyama e uma equipe de pensadores de Stanford propuseram, em vez disso, é um meio de introduzir a competição no sistema por meio de um “middleware”, um software que permite às pessoas escolher um algoritmo que, digamos, prioriza o conteúdo de sites de notícias com altos padrões editoriais. Teorias de conspiração e campanhas de ódio ainda existiriam na internet, mas não acabariam dominando a praça pública digital como fazem agora.

Um problema mais profundo, porém, são as atitudes arraigadas que trazemos para este debate. A maioria de nós trata os algoritmos como se eles constituíssem um mal reconhecível que pode ser definido e controlado. E se eles não forem? J. Nathan Matias, um estudioso que migrou das humanidades para o estudo do comportamento online, argumenta que os algoritmos são totalmente diferentes de qualquer outro produto criado por seres humanos. “Se você comprar um carro na Pensilvânia e dirigi-lo até Connecticut”, ele nos disse, “você sabe que funcionará da mesma maneira nos dois lugares. E quando outra pessoa assumir o assento do motorista, o motor fará o que sempre fez” Os algoritmos, por outro lado, mudam conforme o comportamento humano muda. Eles não se parecem com os carros ou minas de carvão que regulamentamos no passado, mas com algo mais próximo de bactérias em nossos intestinos, organismos vivos que interagem conosco. Em um experimento, por exemplo, Matias observou que quando os usuários do Reddit trabalharam juntos para promover notícias de fontes confiáveis, o próprio algoritmo do Reddit começou a priorizar conteúdo de alta qualidade. Essa observação pode nos apontar uma direção melhor para a governança da Internet.

Matias tem seu próprio laboratório, o “Citizens and Technology Lab” em Cornell, dedicado a fazer tecnologias digitais que atendem ao público e não apenas a empresas privadas. Ele acredita que laboratórios como o seu possam fazer parte da governança da Internet no futuro, apoiando uma nova geração de cientistas-cidadãos que poderiam trabalhar com as empresas para entender como seus algoritmos funcionam, encontrar maneiras de responsabilizá-los caso se recusem a cooperar e experimentar com novas abordagens para governá-los. Essa ideia, ele argumenta, não é nova: Já no século XIX, cientistas independentes e defensores dos direitos do consumidor, testaram fatores como a força das lâmpadas e os efeitos dos produtos farmacêuticos, até mesmo inventando máquinas elaboradas para testar a durabilidade das meias. Em resposta, as empresas melhoraram seus produtos. Talvez seja a hora de permitir que pesquisadores independentes testem o impacto dos algoritmos, compartilhem os resultados e — com a participação do público — decidam quais são os mais úteis.

Este projeto deve envolver qualquer pessoa que se preocupa com a saúde de nossa democracia. Matias vê o comportamento das plataformas tecnológicas como essencialmente autoritário; de certa forma, eles se parecem muito mais com o estado chinês do que costumamos supor. Tanto as plataformas de tecnologia americanas quanto os burocratas chineses conduzem experimentos de engenharia social no escuro; ambos têm objetivos que diferem dos do público. Inspirado pelo filósofo Karl Popper, o decano da “sociedade aberta” e um crítico da engenharia social pouco transparente, Matias pensa que devemos não apenas assumir o controle de nossos próprios dados, mas também ajudar a supervisionar o design de experimentos algorítmicos, com “participação individual e consentimento em todos os níveis de decisão possíveis”. Por exemplo, as vítimas de preconceito devem ser capazes de ajudar a criar experimentos que explorem como os algoritmos podem reduzir o racismo. Rohingya em Mianmar deve ser capaz de insistir em um projeto de mídia social que não facilite sua opressão. Os russos, e também os não russos, deveriam ser capazes de limitar a quantidade de propaganda governamental que veem.

Este tipo de regulação dinâmica resolveria um dos problemas mais embaraçosos para os reguladores em potencial: No momento, eles estão anos atrás da ciência. A primeira tentativa da UE de regulamentar o Google Shopping usando a lei antitruste foi uma enorme perda de tempo; no momento em que os reguladores emitiram seu julgamento, a tecnologia em questão havia se tornado irrelevante. As outras tentativas são muito focadas em simplesmente quebrar as plataformas, como se isso sozinho resolvesse o problema. Dezenas de estados americanos e o Departamento de Justiça já estão processando o Google por monopolizar os mercados de busca e publicidade digital, o que não é surpreendente, porque a dissolução das empresas de petróleo e ferrovias é a regulamentação progressiva que todos aprenderam na escola. No entanto, os paralelos com o início do século 20 não são exatos. Historicamente, a regulamentação antitruste buscou quebrar os cartéis de fixação de preços e reduzir os custos para os consumidores. Mas, neste caso, os produtos são gratuitos — os consumidores não pagam para usar o Google ou o Facebook. E embora separar as grandes empresas possa ajudar a diversificar a economia online, não será automaticamente bom para a democracia. Por que 20 máquinas de desinformação sugadoras de dados seriam melhores do que uma?

“Se o Facebook for forçado a vender ou repassar o WhatsApp e o Instagram”, disse Fukuyama, “isso não resolverá o problema central — a capacidade dessas grandes plataformas de amplificar ou suprimir certos tipos de informações políticas de uma forma que potencialmente poderia influenciar um eleição democrática”

Talvez o modelo histórico mais adequado para a regulamentação algorítmica não seja o combate à confiança, mas a proteção ambiental. Para melhorar a ecologia ao redor de um rio, não basta apenas regular a poluição das empresas. Nem ajudará apenas a desmantelar as empresas poluentes. Você precisa pensar em como o rio é usado pelos cidadãos — que tipo de edifícios residenciais são construídos ao longo das margens, o que é transportado para cima e para baixo no rio — e os peixes que nadam na água. Pescadores, velejadores, ecologistas, promotores imobiliários e residentes da área precisam dizer alguma coisa. Aplique essa metáfora ao mundo online: Políticos, cientistas-cidadãos, ativistas e pessoas comuns terão que trabalhar juntos para co-governar uma tecnologia cujo impacto depende do comportamento de todos, e que será tão essencial para nossas vidas e nossas economias quanto os rios foram para o surgimento das primeiras civilizações.

Reconstruindo a esfera pública

A internet não é a primeira tecnologia promissora que rapidamente se tornou distópica. No início do século 20, o rádio foi saudado com tanto entusiasmo quanto a internet no início do século 21. O rádio vai “fundir toda a humanidade”, escreveu Velimir Khlebnikov, um poeta futurista russo, na década de 1920. O rádio conectaria as pessoas, acabaria com a guerra e promoveria a paz!

Quase imediatamente, uma geração de autoritários aprendeu a usar o rádio para propaganda de ódio e controle social. Na União Soviética, alto-falantes de rádio em apartamentos e esquinas emitiam agitprop comunista. Os nazistas introduziram o Volksempfänger, um rádio sem fio barato, para transmitir os discursos de Hitler; na década de 1930, a Alemanha tinha mais rádios per capita do que qualquer outro lugar do mundo. Na América, a nova esfera da informação foi assumida não pelo estado, mas por empresas de mídia privadas em busca de classificações — e uma das melhores maneiras de obter classificações era promover o ódio. Toda semana, mais de 30 milhões sintonizavam as transmissões de rádio pró-Hitler e anti-semitas do padre Charles Coughlin, o padre de Detroit que acabou se voltando contra a própria democracia americana.

Na Grã-Bretanha, John Reith, o filho visionário de um clérigo escocês, começou a procurar uma alternativa: o rádio que não era controlado nem pelo Estado, como era nas ditaduras, nem por empresas polarizadas em busca de lucro. A ideia de Reith era uma rádio pública, financiada pelos contribuintes, mas independente do governo. Não iria apenas “informar, educar e entreter”; facilitaria a democracia ao aproximar a sociedade: “A voz dos líderes de pensamento ou ação tomando forma; as notícias do mundo ao ouvido dos moradores do interior, os fatos de grandes questões, até então distorcidos por interpretações partidárias, agora colocados direta e claramente diante deles; um retorno da Cidade-Estado de outrora”. Essa visão de uma emissora de rádio que poderia criar uma conversa nacional coesa, mas pluralista, acabou se tornando a BBC, onde Reith foi o primeiro diretor-geral.

O legado de Reith vive em uma nova geração de pensadores, entre eles Ethan Zuckerman, diretor do Instituto de Infraestrutura Pública Digital da Universidade de Massachusetts em Amherst e um mago da tecnologia que escreveu o código que está por trás do anúncio pop-up, um dos os maiores marcos no crescimento da publicidade online. Em parte como penitência, Zuckerman agora dedica seu tempo a pensar em espaços online sem fins lucrativos que possam competir com o mundo comercial online que ele ajudou a criar. As redes sociais, ele nos disse, está quebrada: “Eu ajudei a quebrá-la. Agora estou interessado em construir novos sistemas do zero. E parte do que devemos construir são redes que têm uma promessa social explícita”.

Invocando o exemplo da BBC de Reith, Zuckerman imagina sites de mídia social projetados deliberadamente no interesse público que poderiam promover o discurso civil, não apenas absorver sua atenção e dados, e que ajudariam a reduzir o tom irado do debate americano. Como prova de que a polarização realmente pode ser reduzida, Zuckerman, pedindo emprestado a um colega, citou o exemplo de Quebec, a província canadense que havia sido profundamente polarizada entre falantes de francês que queriam independência e falantes de inglês que queriam permanecer no Canadá. Hoje em dia, Quebec é agradavelmente enfadonho. “Foi preciso muito trabalho para tornar a política tão entediante”, disse Zuckerman. “Envolveu colocar questões reais na mesa que forçaram as pessoas a trabalharem juntas e se comprometerem”. Ele avalia que, se pelo menos uma parte da internet se tornar um lugar onde grupos partidários discutem sobre problemas específicos, não um lugar onde as pessoas se exibem e, ao mesmo tempo, exibem suas identidades, a internet também pode se tornar bastante enfadonha. Em vez de irritar as pessoas, a participação em fóruns online pode dar a elas a mesma emoção cívica que as prefeituras ou clubes sociais costumavam dar. “As reuniões do Elks Club foram o que nos deu experiência em democracia”, disse ele. “Aprendemos como dirigir uma organização. Aprendemos como lidar com divergências. Aprendemos como ser pessoas civilizadas que não saem furiosamente de uma discussão”.

Já existem versões dessa ideia. Um site com sede em Vermont, o “Front Porch Forum”, é usado por cerca de um quarto dos residentes do estado para todos os tipos de atividades comunitárias, desde resposta a desastres naturais até à procura de emprego, bem como discussão cívica. Em vez de encorajar os usuários a interagir o máximo e o mais rápido possível, o Front Porch retarda a conversa: Suas postagens ficam online 24 horas depois de você tê-las escrito. Às vezes, as pessoas procuram os moderadores para se retratarem de algo dito com raiva. Todos no fórum são reais e precisam se inscrever usando endereços reais de Vermont. Quando você entra no site, você interage com seus vizinhos reais, não com avatares online.

É claro que a mídia social de serviço público moderado não pode ser criada gratuitamente. Precisa de financiamento, assim como a BBC. Zuckerman sugere arrecadar dinheiro por meio de um imposto sobre publicidade online que coleta muitos dados do usuário — talvez uma taxa de 2 por cento para começar: “Esse dinheiro irá para um fundo análogo ao Corporation for Public Broadcasting. E estará disponível para pessoas que desejam experimentar ideias diferentes de como poderiam ser as comunidades online, os espaços online”. A ideia é deixar milhares de flores desabrocharem — permitir que as pessoas se candidatem para usar esse dinheiro para criar diferentes tipos de comunidades — e ver quais florescerão.

Versões em larga escala desse tiupo de fóruns comunitários também já existem, principalmente em Taiwan, onde foram pioneiros pelas mãos de Audrey Tang, uma criança prodígio que abandonou o ensino médio para se tornar uma empresária do Vale do Silício e assim passar a ser uma ativista política e finalmente a ministra “digital” de Taiwan, o papel que ocupa hoje. Tang prefere dizer que ela trabalha com o governo, não para o governo; seus colegas de trabalho “recebem um espaço para formar um consenso aproximado”. Ela publica transcrições de todas as suas conversas com quase todos, incluindo nós, porque “o estado precisa ser transparente com seus cidadãos”.

Entre muitos outros projetos experimentais, Tang patrocinou o uso de um software chamado Polis, inventado em Seattle. Esta é uma plataforma que permite que as pessoas façam declarações semelhantes a um tweet de 140 caracteres e que outros votem nelas. Não há função de “resposta” e, portanto, não há trollagem ou ataques pessoais. À medida que as declarações são feitas, o sistema identifica aquelas que geram mais concordância entre os diferentes grupos. Em vez de favorecer visões ultrajantes ou chocantes, o algoritmo so sistema Polis destaca o consenso.

Polis é freqüentemente usado para produzir recomendações para ações governamentais. Por exemplo, quando o governo de Taiwan planejou um debate dentro do Polis em torno da Uber, os participantes incluíram pessoas da própria empresa, bem como de associações de táxis taiwanesas, que ficaram irritadas com alguns dos comportamentos da Uber — e ainda assim um consenso foi alcançado. A Uber concordou em treinar seus motoristas e pagar taxas de transporte; A Taiwan Taxi, uma das maiores frotas do país, promete oferecer melhores serviços. É possível imaginar um mundo em que os governos locais realizem tais consultas online regularmente, aumentando assim a participação na política e dando às pessoas alguma influência sobre sua sociedade e meio ambiente.

Claro, esse sistema funciona apenas se pessoas reais — não bots — participarem desses debates. O anonimato tem seu lugar online, assim como na vida real: Permite aos dissidentes em países repressivos uma forma de falar. O anonimato também tem uma longa e distinta história na política americana, remontando aos “The Federalist Papers”, que foram assinados com um pseudônimo coletivo, “Publius”. Mas Publius nunca concebeu um mundo em que contas anônimas promovendo a hashtag #stopthesteal pudessem convencer milhões de americanos de que Donald Trump venceu as eleições de 2020.

Uma possível solução para o problema do anonimato vem de Ronaldo Lemos, o advogado brasileiro que fez crowdsourcing para a declaração de direitos da internet em seu país. Lemos defende um sistema conhecido como “identidade autossoberana”, que se acumularia por meio dos símbolos de confiança construídos por meio de diferentes atividades — seu diploma, sua carteira de motorista, seu histórico de trabalho — para criar um tecido conectivo de fontes confiáveis que comprovem que você é real. Uma identidade autossoberana ainda permitiria que você usasse pseudônimos online, mas asseguraria a todos que você é um ser humano real, tornando possível que as plataformas filtrem os bots. A relativa proeminência de várias ideias em nossa conversa pública refletiria com mais precisão o que as pessoas reais realmente pensam, e não o que um exército de bots e trolls está divulgando. Resolver o problema da identidade online também é, obviamente, uma das chaves para combater as campanhas organizadas de desinformação.

Mas, uma vez que humanos reais tenham identidades comprováveis, uma vez que governos ou ativistas online tenham criado os grupos e estabelecido as regras, quantas pessoas realmente vão querer participar de discussões cívicas online valiosas? Mesmo em Taiwan, onde Tang incentiva o que ela chama de “setor social” a se envolver no governo, não é fácil. Ttcat, um “hacktivista” taiwanês cujo trabalho envolve o combate a campanhas de desinformação e que tem colaborado extensivamente com Tang, disse-nos que teme que o número de pessoas que usam o Polis continue muito baixo. A maioria das pessoas ainda tem suas discussões políticas no Facebook. Tiago C. Peixoto, um cientista político baseado em Moçambique que promove a democracia participativa online em todo o mundo, pensa que as questões terão de ser mais importantes se as pessoas quiserem aderir aos fóruns. Peixoto tem desenvolvido projetos que podem, por exemplo, permitir que os cidadãos ajudem a montar o orçamento da cidade. Mas isso exigiria que os políticos cedessem o poder real, o que não é algo que muitos políticos gostam de fazer. Além disso, algum ceticismo sobre a atração dos fóruns certamente se justifica: Não somos todos viciados na raiva e nas guerras culturais disponíveis nas redes sociais? Não usamos as redes sociais para representar, ou para sinalizar virtudes, ou para expressar identidade — e gostamos disso?

Pode ser. Ou talvez pensemos assim apenas porque nos falta imaginação para pensar de forma diferente. Essa é a conclusão tirada por Eli Pariser, cofundador da Avaaz e da Upworthy, dois sites projetados para promover o engajamento político online, e Talia Stroud, diretora do Center for Media Engagement da Universidade do Texas em Austin. Pariser e Stroud passaram os últimos anos realizando pesquisas e grupos de foco em 20 países, tentando descobrir o que as pessoas realmente querem de sua internet e como isso corresponde ao que elas têm. Entre outras coisas, eles descobriram que os superusuários do Twitter — pessoas que usam o Twitter mais do que outras mídias sociais — avaliam a plataforma muito melhor por ela os fazer “se sentirem conectados”, mas dão notas baixas para alegando que elas “encorajam a humanização dos outros”, garantindo as pessoas segurança e produção de informações confiáveis. Os superusuários do YouTube se preocupam em “convidar todos a participar” e gostam que a plataforma faça isso, mas não acham que ela faz um bom trabalho no fornecimento de informações confiáveis. Os superusuários do Facebook têm o mesmo medo e não estão convencidos de que a plataforma mantém suas informações pessoais seguras, embora o Facebook afirme que possui inúmeras ferramentas para proteger as informações de seus usuários e diz que não compartilha essas informações sem permissão dos usuários. A pesquisa de Pariser e Stroud sugere que o atual menu de opções não nos satisfaz completamente. As pessoas estão ansiosas por alternativas — e querem ajudar a inventá-las.

No início de janeiro, enquanto a América estava convulsionada por uma crise lúgubre perpetrada por pessoas que absorveram teorias de conspiração paranóicas online, Pariser e Stroud organizaram um festival virtual que eles descreveram como um “despacho do futuro do espaço público digital”. Designers criadores de mídias sociais sem anúncios e que não extraem seus dados conversaram com engenheiros que projetam aplicativos que filtram o assédio no Twitter. Mesmo enquanto homens em trajes paramilitares postavam fotos deles destruindo o Capitólio, Pariser e Stroud estavam hospedando discussões sobre como construir algoritmos que favorecem a conexão online, empatia e compreensão, e como criar comunidades online que favorecem a evidência, calma e respeito sobre desinformação, indignação e vitríolo. Um dos palestrantes do festival foi Deb Roy, ex-cientista-chefe de mídia do Twitter, que agora é professora do MIT. Em janeiro, ele lançou um novo centro com o objetivo de criar tecnologia que promova a “comunicação construtiva” — como algoritmos projetados para superar as divisões.

Nenhuma dessas iniciativas jamais será “o novo Facebook” — mas esse é exatamente o ponto. Elas destinam-se a resolver problemas específicos, não a criar outra mega-plataforma monolítica. Este é o cerne da visão de Pariser e Stroud, compartilhada por Zuckerman e Tang. Assim como John Reith uma vez viu o rádio como uma forma de recriar a “cidade-estado de antigamente”, Pariser e Stroud argumentam que devemos pensar no ciberespaço como um ambiente urbano. Ninguém quer viver em uma cidade onde tudo é propriedade de algumas corporações gigantes, consistindo em nada além de shoppings e outdoors — mas é essencialmente nisso que a internet se tornou. Para florescer, as cidades democráticas precisam de parques e bibliotecas, lojas de departamentos e mercados de rua, escolas e delegacias de polícia, calçadas e galerias de arte. Como escreveu a grande pensadora urbana Jane Jacobs, o melhor projeto urbano ajuda as pessoas a interagir umas com as outras, e a melhor arquitetura facilita a melhor conversa. O mesmo se aplica à Internet.

Se fossemos visitar esta cidade democrática online do futuro, como seria? Não seria anarquia ou deserto. Em vez disso, podemos encontrar, como Tocqueville escreveu ao descrever a América da década de 1830, não apenas “associações comerciais e industriais das quais todos participam”, mas também “milhares de outros tipos: religiosos, morais, graves, fúteis, muito gerais e muito particular, imenso e muito pequeno. ” Podemos descobrir milhares de “instituições municipais” participativas do tipo das pioneiras de Tang, habitadas por pessoas reais usando as identidades seguras propostas por Lemos — todas elas compartilhando ideias e opiniões livres de manipulação ou distorção digital, graças aos cidadãos-cientistas Matias aprendeu a trabalhar com os algoritmos. Nesta cidade, o governo cederia poder aos cidadãos que usam ferramentas digitais para se envolverem em orçamentos e projetos de construção, escolas e meio ambiente.

Solte sua imaginação: O que realmente significa ter direitos humanos online? Em vez de dar às empresas privadas a decisão final sobre quais contas — sejam as suas ou as do presidente — devem ser excluídas, isso pode significar que os cidadãos online podem recorrer a um tribunal que examinará se eles violaram seus termos de serviço. Também significaria ser responsável por seus próprios dados. Você poderia dar aos médicos todas as informações de que precisam para ajudar a combater doenças, por exemplo, mas também teria a garantia de que esses dados não poderiam ser reutilizados. Se você visse publicidade, política ou de outra natureza, você teria o direito de saber não apenas quem está por trás dela, mas como seus dados foram usados para direcioná-lo especificamente.

Existem também outros benefícios possíveis. Reconstruir uma internet civicamente mais saudável nos daria uma causa comum com nossas antigas alianças e ajudaria a construir novas. Nossas relações com a Europa e com as democracias da Ásia, que tantas vezes parecem obsoletas, teriam um novo centro e foco: juntos, poderíamos criar essa tecnologia e juntos poderíamos oferecê-la ao mundo como uma alternativa poderosa à internet fechada da China e à distorcida máquina de desinformação da Rússia. Teríamos algo a oferecer aos democratas sitiados, de Moscou a Minsk e Hong Kong: a esperança de um espaço público mais democrático.

Felizmente, esta futura cidade democrática não é uma utopia longínqua. Suas características derivam não de uma grande teoria abstrata, mas de uma dura experiência. Muitas vezes esquecemos que a constituição dos EUA foi o produto de uma década de fracasso. Em 1789, seus autores sabiam exatamente como a confederação tinha sido ruim e entenderam o que precisava ser consertado. Nossa nova internet também abrangeria todas as lições que aprendemos com tanta amargura, não apenas nos últimos 20 anos, mas nos quase dois séculos desde que Tocqueville escreveu seu famoso livro. Agora sabemos que o ciberespaço não escapou, no final, do legado dos “gigantes de carne e aço” de John Perry Barlow. Ele apenas recapitulou as patologias do passado: bolhas financeiras, comercialização exploradora, polarização viciosa, ataques de ditaduras, crime.

Mas esses são problemas que as democracias já resolveram. As soluções estão em nossa história, em nosso DNA, em nossas próprias memórias de como consertamos sistemas quebrados em outras épocas. A internet já foi o futuro, e pode ser novamente, se nos lembrarmos de Reith e Roosevelt, Popper e Jacobs — se aplicarmos o melhor do passado ao presente.

Devido a um erro de edição, este artigo afirmava originalmente que a citação de Tristan Harris veio de uma entrevista com os autores. Na verdade, Harris o escreveu em um ensaio recente.

Este artigo afirmava anteriormente que o rádio Volksempfänger era baseado em transistores. Na verdade, era baseado em tubo. Este artigo foi publicado na edição impressa de abril de 2021 com o título “A Internet não precisa ser horrível”.

https://www.theatlantic.com/magazine/archive/2021/04/the-internet-doesnt-have-to-be-awful/618079/