A tragédia do mundo digital
[resumo] Autores analisam riscos do avanço das tecnologias digitais. Global e sem fronteiras, mundo digital é comparável ao ambiente, já que pode ser explorado por indivíduos, empresas ou governos de modo a contrariar interesses de comunidades e exaurir os recursos comuns
Virgilio Almeida é professor Associado ao Berkman Klein Center na Universidade Harvard e professor emérito de ciência da computação da UFMG (Universidade Federal de Minas Gerais); Fernando Filgueiras é professor associado de ciência política da UFMG e coordenador-geral de pós-graduação da Enap (Escola Nacional de Administração Pública)
A sociedade vive um momento de transição em relação ao acelerado avanço das tecnologias digitais. Isso fica evidente quando se observa que a percepção pública sobre o mundo digital vem mudando. A ênfase nos efeitos positivos e nas promessas de inovação e democratização do conhecimento tem dado lugar a uma crescente preocupação com as ameaças nas redes e com um certo malestar generalizado devido à hiperconectividade de quase tudo e todos.
Uma pesquisa recente realizada nos Estados Unidos pela Pew Research e publicada em novembro do ano passado (tinyurl.com/v9lvl5x) mostra que 81% dos cidadãos acreditam que os riscos associados aos dados pessoais coletados por empresas de tecnologia superam os benefícios, e 66% dizem o mesmo quanto a dados coletados pelo governo.
De qualquer ponto de vista, o avanço digital parece ser inevitável. Daí a importância dos alertas referentes aos riscos e perdas que essa situação pode trazer para cada país, em diferentes graus e intensidades.
Os riscos associados ao avanço digital incluem invasão de privacidade por governos ou empresas, desinformação, discriminação com base em dados pessoais, decisões automáticas enviesadas por algoritmos, manipulação da sociedade pelas mídias sociais, concentração de poder do monopólio das grandes empresas de tecnologia —Google, Amazon, Facebook e Microsoft— e, principalmente, os ataques cibernéticos, que ameaçam a todos indistintamente.
Há ainda a incerteza quanto à magnitude do impacto das tecnologias de inteligência artificial e da automação sobre o emprego —principalmente no caso dos trabalhos pouco qualificados, como ocorre em larga escala no Brasil.
Dados e algoritmos estão no centro das tecnologias digitais que moldam a sociedade e mudam sobremaneira a forma como governos e empresas atuam, assim como o comportamento das pessoas.
Um grupo de pesquisadores da Universidade de Chicago, liderado pelo professor Sendhil Mullainathan, publicou na revista Science, em outubro de 2019, um estudo sobre um algoritmo amplamente utilizado na alocação de serviços de saúde que afetou cerca de cem milhões de pessoas nos Estados Unidos.
Para destinar recursos e serviços mais eficientemente, as empresas de saúde usam grandes massas de dados e algoritmos que visam identificar os pacientes em situação de maior ou menor gravidade. O estudo, no entanto, apontou um viés racial embutido nos algoritmos.
Para um mesmo nível de doença, o algoritmo atribuiu menor risco para os negros do que para os brancos, o que levava os provedores de saúde a alocar menos recursos para o tratamento dos pacientes negros. A magnitude da distorção é imensa. Ao remover o viés algorítmico, o número de pacientes negros que receberia cuidados adicionais poderia dobrar.
Também no Brasil, as notícias falsas e o uso do WhatsApp, Twitter e YouTube como motores de campanha política deixaram um claro alerta: é preciso ter algum controle da sociedade sobre esse avanço digital.
A natureza distribuída e a ausência de autoridade central na internet, a limitação territorial das ações de governos e a possibilidade de iniciativas maliciosas ou criminosas por governos, empresas ou indivíduos, em qualquer parte do globo, tornam o desafio ainda maior. Chegar a soluções exigirá ações coletivas e a capacidade para definir políticas, tendo em vista a necessidade do envolvimento e participação efetiva da sociedade civil, empresas, organizações internacionais e governos.
Originalmente, o mundo digital seria um mundo de experimentação e compartilhamento, que promoveria grandes avanços no desenvolvimento. Livre e sem fronteiras, seria uma utopia da plena liberdade, realizado por soluções inovadoras que proporcionariam maior compartilhamento do conhecimento e desenvolvimento integral da humanidade.
E, no entanto, o mundo digital que hoje existe é totalmente descolado dessa visão utópica. O caráter disruptivo das inovações digitais mudou diversos significados e a natureza da organização humana. Vale a pena observar como a linguagem da inovação modificou o significado da palavra “ecossistema”, tornando-o mais abrangente.
Na área ambiental, a palavra se refere a um conjunto de comunidades que vivem em um determinado local e interagem entre si e com o meio ambiente, compartilhando os mesmos recursos naturais. Hoje, “ecossistema” também designa comunidades que vivem no mundo digital e interagem entre si, compartilhando recursos comuns, cuja função é ligar em rede todas essas comunidades.
Em ambos os mundos, estamos sujeitos a formas indevidas de exploração desses recursos comuns.
Em 1968, a revista Science publicou um artigo de Garrett Hardin, professor de biologia na Universidade da Califórnia em Santa Bárbara, intitulado “The Tragedy of Commons”.
Escrito com a finalidade de abordar, a partir de um ponto de vista moral, e não técnico, a questão da explosão populacional, o artigo trazia um conjunto de formulações que podem, na atualidade, ser significativas para o mundo digital.
No artigo, Hardin retomava um panfleto de 1833 do britânico William Forster Lloyd. O texto do século 19 ilustrava uma situação que Hardin chamaria de “tragedy of commons”, expressão que passou para o português como “tragédia dos comuns”.
Ela acontece quando indivíduos agindo de forma independente e de acordo com os seus próprios interesses comportam-se contrariamente aos interesses da comunidade, esgotando recursos comuns.
O insight de Hardin é importante. O meio ambiente está sujeito à tragédia dos comuns porque indivíduos esgotam recursos naturais para satisfazer interesses próprios. No panfleto de Lloyd, a ideia era ilustrada por pastores que queriam, cada qual, aumentar seu rebanho, causando com isso o desgaste do pasto comum (o “common”) que dividiam. A crise do clima é um exemplo intuitivo dessa tragédia.
A abordagem de Hardin propunha uma questionável solução neomalthusiana para a tragédia dos comuns que decorreria da explosão populacional. Na visão do pesquisador, a solução seria abandonar a liberdade de procriação e estabelecer uma autoridade hobbesiana sobre os recursos comuns.
Contudo uma proposta mais interessante para sanar uma tragédia dos comuns foi aquela formulada por Elinor Ostrom, Prêmio Nobel de Economia em 2009. Ostrom demonstra como ela pode ser solucionada com sistemas de cooperação, tendo em vista a capacidade humana de ação coletiva.
Para Ostrom, a tragédia dos comuns jamais será resolvida com mais Estado ou com mais mecanismos de mercado. Os recursos comuns precisam ser administrados de forma cooperativa e com mecanismos de governança capazes de formular políticas públicas, com o envolvimento dos diversos atores no plano de instituições sustentadas na cooperação.
Igualmente, as soluções para uma tragédia dos comuns no mundo digital deveriam passar por aí.
Oecossistema do mundo digital também está sujeito à tragédia dos comuns. É muito pertinente essa aplicação do termo “ecossistema” ao mundo digital, pois ela põe em evidência diversas formas de exploração que são contrárias aos interesses da comunidade.
Os recursos comuns do mundo digital são dados, informações e algoritmos. Eles dão sustento às inovações das tecnologias digitais.
Global e sem fronteiras por definição, o mundo digital, a exemplo do meio ambiente, pode ser explorado por indivíduos, empresas ou governos que agem de forma independente, contrariando os interesses de comunidades e agindo de forma a exaurir o recurso comum mais essencial ao mundo digital: o conhecimento. Eis a tragédia digital.
Como o meio ambiente, o mundo digital também está sujeito a diversas formas de poluição, mau uso e exploração.
Redes sociais podem ser vistas como ecossistemas compartilhados globalmente. Com acesso aberto a bilhões de pessoas para publicar “conteúdo gerado pelo usuário” e propiciar comunicação, essas plataformas globais atraem maus atores —pessoas e organizações que exploram recursos gratuitos por dinheiro ou interesses próprios, poluindo esses bens comuns.
O uso comum também pode ocasionar desinformação, fake news, crime, terrorismo e outras formas nocivas que poluem o mundo digital, provocando confusão, manipulação, insegurança e perda de confiança.
Empresas de tecnologia se apropriam da infraestrutura de informação e a controlam, passando a ter um grande poder econômico e político. O caso da Cambridge Analytica mostrou como o uso de dados pessoais de cidadãos sem o seu conhecimento pode mudar a ordem do conflito político.
As tecnologias também estão colaborando para criar novas formas de desigualdades. Por exemplo, as cidades inteligentes, que dependem de uma série de inovações, têm o potencial de criar “technological redlines”(limites de segurança tecnológicos) no espaço urbano, favorecendo a segregação de periferias e promovendo exclusão.
A tragédia do mundo digital cria mal-estar coletivo. Apesar dos grande avanços, nem sempre a tecnologia beneficia a todos.
Não se pode afirmar que a utopia do mundo digital tenha dado lugar a um mundo distópico fadado ao fracasso. As tecnologias são fundamentais e de fato podem contribuir para o desenvolvimento humano pleno.
O que, no entanto, a tragédia do mundo digital nos ensina é que são necessários mecanismos de governança capazes de estabelecer ação coletiva e de formular políticas que sejam implementadas de forma a fazer com que a internet, as redes sociais, os algoritmos e sistemas autônomos beneficiem a comunidade e promovam um conhecimento de fato compartilhado.
O problema é como estabelecer governança para o mundo digital.
Governança é uma solução institucional para problemas de ação coletiva. No mundo digital, não há como ela ser feita exclusivamente pelos governos. As soluções de governança digital têm, portanto, de se apoiar em arranjos multissetoriais, tanto para a construção quanto para a implementação de iniciativas.
Numa solução multissetorial, todos participam da construção de políticas públicas e mecanismos de governança. As soluções não se restringem a leis e regulações. Normas, boas práticas e autorregulação podem compor parte do conjunto de soluções, de forma a enfrentar um problema que é global e que demanda soluções institucionais inovadoras.
As tecnologias digitais devem ser administradas de maneira a promover o envolvimento de dos governos, empresas e sociedade civil, em diversos fóruns nacionais, regionais e globais, para fazer do mundo digital um empreendimento comum, desenhado de forma inclusiva, alinhada aos direitos humanos e plenamente democrática.