Reconhecimento facial deve ser banido por ora, afirma autor
Apoiador do pré-candidato Bernie Sanders, Ramesh Srinivasan defende política digital de direitos humanos
são paulo O indiano Ramesh Srinivasan, 43, doutor em Harvard e fundador do Laboratório de Cultura Digital da UCLA (Universidade da Califórnia, Los Angeles), defende que sistemas de reconhecimento facial sejam banidos, ao menos até que se encontre um modelo de equilíbrio com o direito à privacidade.
Diante da onda de presidentes de empresas de tecnologia, como Google e Microsoft, que clamam por regulação de inteligência artificial, Srinivasan amplia o leque: defende proteção econômica de trabalhadores substituídos pela automação e sindicalização de funcionários de big techs.
Em seu terceiro livro, “Beyond The Valley” (Além do Vale do Silício, da MIT Press), sem tradução para o português, ele ressignifica o conceito de inovação —comumente atribuído a empresas comandadas por homens brancos na Califórnia ou a potências chinesas— e aborda iniciativas desde indígenas sul-americanas a comunidades no Quênia.
Srinivasan foi nomeado um dos apoiadores oficiais da academia na campanha do précandidato democrata à Presidência dos Estados Unidos Bernie Sanders, a quem pretende aconselhar sobre o tema futuro do trabalho. * Que tecnologias são inovadorasforadoValedoSilício? A narrativa predominante é que a tecnologia vem da China ou dos EUA e usada no resto do mundo, mas há outras lógicas, de pessoas sem alternativa, que não são usuárias, mas criadoras de tecnologia.
No sul do México, falo [no livro] de uma iniciativa de rádiocomunitária;naColômbia, indígenas criam redes de celular com investimento coletivo. Tem gente usando lixo, produtos da Apple jogados fora, e criando novos aparelhos. Usamos a palavra inovação para descrever tecnologias desenvolvidas para morrer, como um iPhone [substituído rapidamente por outro], mas há regiões em que as pessoas criam tecnologia para sustentar a vida.
O sr. diz que prover tecnologia pelos termos de uso das empresas, e não das pessoas, aumenta a desigualdade. Pode explicar? Se a pessoa tem acesso à internet apenas graças a uma iniciativa social do Google ou do Facebook, isso é bom, no sentido de que ela ao menos tem acesso. Mas dar às pessoas acesso à sua tecnologia, desenvolvida para sua empresa lucrar, capturar dados e forçar a atenção delas, beneficia primeiramente a companhia.
As pessoas têm pouca ciência do que estão contratando. Minha provocação é: essa é a única forma de pensar a conectividade? Podemos mudar o sistema de valores em que operamos a tecnologia, não permitir que aconteça dessa forma colonial e extrativista.
Como? Meu objetivo não é entrar nessa briga de capitalismo versus outras ideias, não é tão simples. Essas empresas trazem eficiência, não há dúvida, mas essa eficiência precisa vir com esse custo? Ela precisa vir com um sistema que manipula o comportamento das pessoas, que ameaça democracias e a vitalidade da classe trabalhadora? Não. Há formas de alcançar eficiência em escala sem esse custo.
Não sou contra Google e Facebook, mas defendo que sejam socialmente responsáveis. Podemfazerissoaodizeroque sabem sobre nós, ao explicar os motivos de mostrarem um conteúdo, ao fornecer opção para não deixarmos o máximo de dados que pudermos e ao dar clareza sobre algoritmos.
Defende mais intervenção do Estado na internet? Sugere algum modelo? Defendo várias iniciativas, algumas que podem incluir o Estado, como na ajuda para a regulação. Esses serviços precisam ser responsáveis, e ter Estado e legisladores ajuda. É importante ser lucrativo, mas, quando você faz dinheiro com um tipo de desorientação pública, temos um problema. Defendo uma política digital de direitos humanos.
O que é isso? Não é uma proposta direcionada a grandes
companhias, mas trata da inclusão social na tecnologia.
É uma série de propostas para garantir, por exemplo, que sistemas autônomos sejam criadosnaimagemdetodosnós [não por grupos de desenvolvedores sem diversidade], que o reconhecimento facial seja auditado, que exista uma proteção econômica a empregos substituídos pela automação e que os trabalhadores de grandes empresas de tecnologia tenham formas de se reunir para defender direitos próprios.
Sanders deve defender essa
proposta? Ele tem muitos planos que envolvem componentes digitais, mas são focados em trabalhadores e comunidades, em garantir que empregos estejam protegidos na economia digital e também em garantir que as coisas não fiquem tão monopolísticas. A depender da política, talvez ele defenda.
Existe uma tendência de culpar as redes sociais por comportamentos anteriores a
elas, como xenofobia? Não estou dizendo que Facebook seja responsável pelos desafios do mundo, mas pergunto se a tecnologia deve representar vieses e desigualdades ou o mundo que queremos. Claro que há pessoas que não querem democracia, mas acredito que a maioria queira.
A questão é como garantir que a tecnologia sirva a esse interesse.Eesseinteressepode coexistir com corporações privadas, mas elas têm que ser mais balanceadas com interesses humanos do que com aspectos negativos da sociedade. Acho a maioria das pessoas opta por democracia, e não pelo fascismo, por igualdade e não por oito pessoas terem o dinheiro de quase 4 bilhões.
Mark Zuckerberg defende que a sociedade saiba o que um político fala em uma publicação paga na rede, mesmo que seja
mentira.Oqueachadisso? A tecnologia está inovando em um caminho negativo não porque quem está por trás é ruim, mas porque ela enaltece aspectos negativos de forma proposital. Quando vemos Trump ou Bolsonaro dizendo certas coisas, isso capta a atenção. Algoritmos refletem o que atrai a atenção das pessoas.
Adoramos ver violência e carros batendo porque isso mexe com nosso instinto de sobrevivência, mas não é necessariamente o que queremos como sociedade.
Masépapeldasredessociaisregular o que vemos? Não acho que devem fazer isso sozinhas, mas como uma companhia em Palo Alto, na Califórnia, que tem alguns escritórios no mundo, realmente entende a realidade de 2 bilhões ou 3 bilhões de pessoas? Especialmente porque a maioria dos usuários está na África, na América do Sul, no sul da Ásia. Eles precisam fazer tudo o que podem para dar algum poder e controle a auditores independentes, a pessoas que podem trabalhar com eles para ter certeza que o conteúdo é relevante.
Não podemos deixar que os algoritmos sejam desenvolvidos para promover conteúdo de ódio, não porque não gostamos de sentir ódio, mas porque isso é feito para captar a atenção das pessoas e mantê-las presas nas plataformas.
O Facebook fez isso, criou um comitê externo para avaliar conteúdos sensíveis, que dependem de contexto. Apoio todas as medidas nesse sentido. Meu interesse não é vilanizar ninguém, sou amigo de muitos que trabalham nessas empresas. Mas, quando o discurso é que sua plataforma é aberta, mas seus algoritmos promovem conteúdo radicalizado, ela não é aberta. Essa empresa não é mais de tecnologia, é a maior companhia de mídia da história do mundo.
Qual o risco disso? Um dos principais aspectos de viver em uma democracia é a ideia de que todos têm acesso a mais ou menos o mesmo tipo de informação e, diante disso, criam-se diferentes perspectivas e políticas para tomar decisões. Isso não ocorre mais porque eu e você podemos ter visões políticas parecidas, o mesmo gênero, idade e cidade, mas na rede social somos expostos a realidades jornalísticas completamente diferentes.
A lógica de compartilhamento de notícias do Facebook é diferente da lógica do jornalismo. É um grande risco quando uma companhia tem poder sobre toda essa experiência noticiosa —não é exatamente o que acontece com o Facebook—, mas ele caminha nessa direção monopolística.