‘Black Software’, igualdade e tecnologia

Livro faz análise aprofundada da relação conturbada entre tecnologia e raça

Um dos painéis mais interessantes que aconteceram no Fórum Econômico Mundial teve como protagonista o músico Will.I.Am, globalmente conhecido por seu trabalho no grupo Black Eyed Peas.

O músico foi para Davos não só para tratar de música mas também para falar de inteligência artificial (IA). Como fã do seu trabalho nos dois campos, tratei logo de postar uma selfie do seu lado, com a legenda “falando sobre inteligência artificial como Will.I.Am”.

Infelizmente, recebi mensagens que servem para abrir os olhos (ainda mais!) para a questão de viés quando se trata de tecnologia. Houve quem tivesse ficado intrigado, incomodado e até irritado com Will.I.Am “falando sobre inteligência artificial”.

Só para deixar claro, o músico participa do conselho de administração de empresas de IA e já colaborou com a IBM sobre o tema. E, em Davos, fechou uma parceria para lançar um prêmio para brinquedos que usam IA de forma responsável para com as crianças.

E, é claro, Will.I.Am usa inteligência artificial também no seu trabalho musical. Em entrevista recente para o Financial Times, o músico disse que a inteligência artificial será central para a indústria musical, inclusive na parte de shows.

Por exemplo, o próprio músico já construiu seu avatar virtual movido por IA, em parceria com a empresa Soul Machines. Esse avatar já é capaz, por exemplo, de fazer shows do mesmo jeito que ele.

Só que a Soul Machines vai além disso. O objetivo da empresa é “revolucionar a relação entre homens e máquinas”. Dentre as suas promessas está uma “revolução no conceito de atendimento ao consumidor”.

Em um futuro próximo, não será surpresa se você ligar para o call center de uma empresa e for atendido pela voz digital da sua celebridade favorita, que vai realizar todo o atendimento movido por IA.

No papo com Will.I.Am, um dos temas abordados foi exatamente a questão do viés racial na tecnologia. Na história da inovação, há, infelizmente, vários casos emblemáticos.

Em 1930, por exemplo, a Westinghouse inventou um robô chamado “Rastus, o Negro Mecânico”. O nome já descreve bem do que se trata: um humanoide de pele negra que, usando contrações mecânicas, era capaz de se levantar, realizar alguns movimentos e emitir alguns sons. As fotos da exibição do “Rastus” são um dos documentos mais chocantes sobre racismo na história da tecnologia.

Um bom antídoto para essa questão é a leitura do recémlançado livro “Black Software”, que trata justamente da relação entre raça e tecnologia. Escrita por Charlton McIIlwain, professor e vice-reitor da Universidade de Nova York, a obra retrata o papel crucial de engenheiros de software, pesquisadores e empreendedores negros desde os anos 1950 na construção da internet e da computação como conhecemos hoje.

O livro faz também uma análise aprofundada da relação conturbada entre tecnologia e raça, mostrando os inúmeros desafios com relação a isso.

Muitas vezes achamos que a tecnologia é “neutra” e que o problema é o uso que fazemos dela. A questão é que tecnologia é produto de design, o que embute inúmeras escolhas.

Ter dimensão de erros como o “Rastus” ajuda a prevenir que o design no presente repita o passado.

READER

Já era Achar que a tecnologia é sempre neutra

Já é Assistentes virtuais com voz sempre feminina como padrão

Já vem Questões cada vez maiores sobre igualdade de gênero em assistentes de voz