O Estado policial da China e o Ocidente
Governos têm condições de reunir mais informações, com mais facilidade do que nunca, mas não devem ser subestimados os muitos riscos dessa prática
Eles estão observando você. Quando caminha para o trabalho, as câmeras de vigilância o filmam e, cada vez mais, reconhecem seu rosto. Dirija para fora da cidade e as câmeras de leitura de placas registram sua jornada. O smartphone no seu bolso deixa uma trilha digital constante. Navegue pela web na privacidade da sua casa e suas ações ficam registradas e são analisadas. Os dados resultantes podem ser processados para criar um registro da sua vida, minuto a minuto.
Sob um governo autoritário como o da China, o monitoramento digital está se transformando em um Estado policial desagradável, um Estado aterrorizante e onisciente. Especialmente na região oeste de Xinjiang, onde a China aplica Inteligência Artificial (IA) e vigilância em massa para criar um panóptico (prisão em formato circular) em pleno século 21, e impor o controle total sobre milhões de uigures, a minoria muçulmana no país. Nas democracias ocidentais, a polícia e as agências de inteligência estão usando as mesmas ferramentas de vigilância para resolver e prevenir o terrorismo. Os resultados são eficazes, mas profundamente preocupantes.
Entre a liberdade e a opressão, interpõe-se um sistema em busca do consentimento dos cidadãos, manter o controle sobre os governos e, quando se trata de vigilância, estabelecer normas para limitar a ação daqueles que coletam e processam informações. Mas com dados tão abundantes e tão fáceis de coletar, essas proteções estão sendo corroídas. As regras de privacidade projetadas para o telefone fixo, a caixa postal e o arquivo precisam urgentemente ser fortalecidas para a era do smartphone, do e-mail e da computação em nuvem.
Tudo espiona. Quando a Alemanha Oriental entrou em colapso em 1989, as pessoas ficaram maravilhadas com o estoque de informações que o serviço de segurança da Stasi havia recebido deles, e a vasta rede de informantes necessária para compilar os dados. Desde então, a revolução digital transformou a vigilância, como muitas outras coisas mais, ao possibilitar a coleta e análise de dados em uma escala sem precedentes.
Smartphones, navegadores da Web e sensores fornecem enormes quantidades de informações que os governos podem hackear ou coletar; os datacenters permitem armazená-las indefinidamente; a Inteligência Artificial os ajuda a encontrar agulhas nos palheiros digitais. Tecnologias que antes pareciam amigas da liberdade, permitindo que dissidentes em ditaduras se comunicassem e se organizassem com mais facilidade, agora parecem mais orwellianas, permitindo que autocratas observem as pessoas mais de perto do que fazia a Stasi.
Racismo. Xinjiang é o extremo do pesadelo que a nova tecnologia torna possível: um Estado policial racista. Temendo insurreição e separatismo, os governantes da China reforçaram as técnicas de controle totalitário – incluindo a detenção em massa dos uigures para reeducação – com tecnologia digital. Em partes das ruas da província há postes cheios de câmeras de CCTV (TV em circuito fechado) a cada 100-200 metros. Elas registram o rosto de cada motorista que passa e a placa do carro. Os celulares dos uigures rodam spywares emitidos pelo governo. Os dados associados a seus cartões de identificação incluem não apenas nome, sexo e ocupação, mas podem conter detalhes sobre parentes, impressões digitais, tipo sanguíneo, informações sobre o DNA, registro de detenção e “status de confiabilidade”. Tudo isso e muito mais é registrado na Plataforma Integrada de Operações Conjuntas (IJOP), um sistema movido a Inteligência Artificial, para criar relações de suspeitos para detenção.
O totalitarismo na escala de Xinjiang pode ser difícil de replicar, mesmo na maior parte da China. Reprimir uma minoria facilmente identificada é mais fácil que garantir o controle absoluto sobre populações inteiras. Mas elementos do modelo de vigilância da China certamente vão inspirar outras autocracias – da Rússia a Ruanda e à Turquia – às quais o hardware necessário será alegremente vendido. Os Estados liberais têm a obrigação de expor e punir essa exportação de opressão, por mais limitadas que sejam suas ferramentas de pressão.
O Ocidente deve olhar para si mesmo, também. Hoje em dia suas forças policiais podem, da mesma forma, ter acesso aos dados da Stasi. Os policiais podem instalar falsas torres telefônicas para acompanhar os movimentos e contatos das pessoas. Dados de leitores de placa de identificação podem acompanhar os movimentos de uma pessoa por anos. Algumas cidades americanas têm programas de policiamento preventivo semelhantes
Elementos do modelo de vigilância da China certamente vão inspirar outras autocracias – da Rússia à Turquia
aos do IJOP, que analisam crimes passados para prever futuros crimes. Tudo isso permite o monitoramento de possíveis invasores, mas o potencial para que haja abuso é grande. É conhecido o fato de que centenas de policiais americanos usaram bancos de dados confidenciais para pesquisar fatos escusos contra jornalistas, ex-namoradas e outros.
Vigiando os detetives. Como equilibrar liberdade e segurança? É preciso começar por garantir que o mundo digital, como o real, tenha lugares onde as pessoas cumpridoras da lei possam desfrutar de privacidade. Cidadãos de democracias liberais não esperam ser revistados sem uma boa razão, ou ter suas casas revistadas sem um mandado. Da mesma forma, um celular no bolso de uma pessoa deve ser tratado como um arquivo em casa. Assim como os gabinetes de um arquivo
podem ser trancados, a criptografia não deve ser restringida.
Uma segunda prioridade é limitar durante quanto tempo as informações sobre os cidadãos serão mantidas, quem terá acesso a elas e penalizar adequadamente seu uso indevido. Em 2006, a União Europeia emitiu uma diretiva exigindo que as empresas de telefonia móvel mantivessem os metadados (informações anexadas aos dados que ajudam a interpretá-los) dos clientes por até dois anos. Essa lei foi revogada pelo Tribunal de Justiça Europeu em 2014. O uso indevido de dados policiais deve ser um crime pelo qual as pessoas sejam punidas, não um “erro” absolvido por um pedido coletivo de desculpas.
Uma terceira prioridade é controlar o uso da IA. Os sistemas de policiamento preventivo são imperfeitos, melhores para achar padrões em arrombamentos do que, digamos, um assassino. O reconhecimento facial pode produzir muitos resultados “falsos positivos”. A IA treinada com dados tendenciosos – por exemplo, padrões de detenção que apresentam um número desproporcional de pessoas negras – pode reproduzir esses desvios. Alguns algoritmos de condenações são mais propensos a rotular réus negros do que brancos como tendo elevado risco de reincidência. Tais algoritmos devem estar abertos à vigilância cuidadosa, não protegidos como se fossem segredos comerciais.
Vigilância e transparência devem ser as palavras de ordem. Elas aumentam a eficácia da tecnologia: o uso rotineiro de câmeras portáteis pela polícia, por exemplo, parece reduzir as reclamações do público. A consulta também é importante. Um projeto de lei recentemente proposto na Califórnia obrigaria as agências policiais a divulgar que tipo de vigilância eles têm, publicar dados sobre seu uso e buscar a opinião do público antes de comprar ainda mais. Se isso torna o progresso mais lento, que assim seja. A polícia observa corretamente os cidadãos para mantê-los seguros. Os cidadãos devem vigiar a polícia para permanecerem livres. ✽
© 2017 THE ECONOMIST NEWSPAPER LIMITED. DIREITOS RESERVADOS. PUBLICADO SOB LICENÇA. O TEXTO ORIGINAL EM INGLÊS ESTÁ EM WWW.ECONOMIST.COM