‘Um erro na tecnologia é automatizar tudo’

Especialista em inteligência artificial, Susan Etlinger falou sobre ética, dados e algoritmos

Oque podemos fazer com todos esses megadados? Com essa pergunta, Susan Etlinger abriu sua palestra TED Talk, em 2014. Analista do grupo Atimeter, ela explicava os motivos pelos quais, à medida que recebíamos mais dados, precisávamos desenvolver nosso pensamento crítico.

Hoje, seis anos depois, com mais de 1,3 milhão de pessoas tendo assistido ao vídeo da palestra - que foi traduzido para 25 idiomas - e em meio à pandemia da covid-19, ela acredita que as pessoas continuam sem ter uma boa noção sobre dados - nem sobre números. “Quando se trata de pensar criticamente, nós tendemos a seguir nossas próprias inclinações”, disse, em entrevista ao CORREIO esta semana.

Susan é uma das palestrantes do Fórum Agenda Bahia 2020, no próximo dia 9 de dezembro. Da Califórnia, nos Estados Unidos, ela falou ao jornal sobre inteligência artificial, algoritmos preconceituosos e sobre tecnologia.

Como você definiria a inteligência artificial (IA)? E de que maneiras a IA já está presente em nossas vidas? Inteligência artificial é um nome engraçado, porque se você tem um grupo de 50 especialistas em IA numa sala e pede para que eles escrevam em um papel a definição de inteligência artificial, você provavelmente vai ter 50 definições diferentes. Mas existem duas coisas que distinguem a inteligência artificial de outras tecnologias. A primeira coisa é que (a IA) pode tomar decisões de forma autônoma. Não precisa que alguém diga a ela o que fazer. E a segunda coisa é que pode aprender a partir dos dados. Algumas pessoas vão dizer que IA é alguma coisa que pareça mágica. Se você conseguir lembrar da primeira vez que falou com seu celular e esperou que ele fizesse algo para você, provavelmente soou como mágica. Todos nós já interagimos, provavelmente, com a IA. Se você tem um celular, está interagindo com a inteligência artificial. Se você faz uma busca no Google ou em algum outro lugar, se você tira uma foto, se você fala com o seu celular para dizer o que ele deve fazer, se você abre o Facebook ou qualquer outra rede social... Ele descobre o que você quer ver, baseado no seu comportamento anterior.

E como uma empresa pode começar a implementar inteligência artificial em seus processos?

Uma das concepções erradas sobre a IA é que muitos de nós tiramos nossas ideias sobre o que é isso de filmes ou da televisão. Seja Blade Runner, o Exterminador do Futuro ou Black Mirror, ou qualquer programa onde robôs tomam conta da Terra, nós todos temos alguma noção do que é IA. Contudo, muitos dos experimentos ou projetos envolvendo inteligência artificial que empresas fazem é tentar descobrir coisas que estão no radar das pessoas, o que requer muitos dados e computação. E não vale a pena ter uma pessoa para fazer isso.

Assim, a primeira coisa que empresas tendem a fazer é tentar encontrar lugares onde seriam mais eficientes, rápidas, mais baratas, para automatizar processos. De forma geral, nós automatizamos processos que são altamente manuais

Susan Etlinger Analista do grupo Atimeter que desenvolve um trabalho com foco em dados e inteligência artificial. Em 2019, foi uma das 100 Mulheres Mais Brilhantes em Ética em IA pela Lighthouse3.

e ineficientes.

Como você se envolveu com a IA e que conselhos você daria a alguém que está cogitando seguir a carreira no campo?

Existe um ditado clássico nos Estados Unidos que é “faço o que eu digo, não faça o que eu faço”. Então, eu não usaria minha carreira como exemplo. O primeiro motivo é que eu sou mais velha e estou trabalhando há algum tempo. Quando eu comecei a trabalhar, foi antes da internet. Então, para alguém que é mais novo hoje e está pensando em uma carreira em IA, você está entrando em um mundo totalmente diferente. Mas tem uma coisa que ainda é similar: eu não sou uma matemática, não sou uma engenheira e sou péssima com números. E uma das lacunas entre tecnologia e as empresas, às vezes, são as pessoas que entendem os impactos humanos na forma como usamos a tecnologia. Para as pessoas que estudam Literatura, Linguagens, Artes, também existe oportunidade na tecnologia, porque é muito importante contribuir com a forma como pensamos no uso da tecnologia, como ela pode afetar as pessoas e como podemos imaginar jeitos diferentes de usá-la. Não é só sobre quem consegue fazer os cálculos mais rápido.

Como você vê os desafios éticos no campo da inteligência artificial?

Vamos falar sobre o que ética realmente significa. É um conjunto de normas, de práticas aceitáveis. No mundo concreto, nós temos regras. Nós não empurramos alguém na rua. Você não fica parado na frente de um elevador. Todas são as coisas que nós aprendemos quando crianças, mas então nós chegamos aos espaços virtuais, digitais. E não necessariamente nós entendemos as implicações das coisas que acontecem no mundo digital. Então, a ética na IA para o uso responsável da inteligência artificial ou para o uso de qualquer outra tecnologia. É realmente sobre definir um conjunto de normas e padrões para como devemos nos comportar. Agora, dentro dessas normas, existem aspectos específicos para a inteligência artificial.

Uma é saber que uma das pedras fundamentais de qualquer tipo de algoritmo é que ele absorve preconceitos. E ele não sabe se é bom ou ruim, se é certo ou errado, o que é culpa de alguém, o que faz as pessoas felizes. Ele não sabe nenhuma dessas coisas, ele apenas sabe o que é.