O equilíbrio entre inovação e humanismo na medicina digital

Inteligência artificial não deve refletir ou ampliar preconceitos e vieses

Na série documental “Diários de Andy Warhol” (Netflix), baseada no livro homônimo editado por Pat Hackett, algoritmos de inteligência artificial recriaram a voz do grande artista plástico e ícone da pop art americana. O Zeitgeist de uma época de grande euforia após o surgimento dos primeiros computadores em escala comercial no final da década de 1970 é sintetizado na célebre frase de Warhol que serve de epígrafe à obra: “I want to be a machine” (“Quero ser uma máquina”).

Meio século depois, a inteligência artificial (IA) —um conjunto de sistemas e programas que permitem às máquinas serem capazes de executar tarefas que normalmente exigiriam inteligência humana— expandiu horizontes e fronteiras nas mais diversas esferas do conhecimento humano, inclusive na medicina, permitindo vertiginosos avanços como o uso de robótica em salas de cirurgia e de realidade aumentada em departamentos de imagem. Na era da saúde digital, ferramentas de IA já são responsáveis por aumentar a rapidez e precisão de diversos diagnósticos médicos, não substituindo a avaliação de exames por médicos humanos, mas constituindo uma oportunidade de otimização de fluxos de trabalho e integração de grandes bases de dados.

Apesar das inúmeras evidências científicas, um longo caminho deve ainda ser percorrido até que tais ferramentas estejam plenamente integradas à nossa prática médica, exigindo um debate que não deve ser restrito às comunidades médica e científica. Questões relacionadas aos mecanismos regulatórios e à responsabilidade médico-legal envolvendo IA têm sido extensivamente debatidas no mundo inteiro. As principais sociedades médicas do mundo têm considerado que softwares de IA devam estar sujeitos ao mesmo padrão de regulação que qualquer produto ou dispositivo médico, conforme previsto por entidades como o FDA (Food and Drug Administration) e a Anvisa (Agência Nacional de Vigilância Sanitária).

Mais recentemente, há ainda uma preocupação crescente de que modelos de IA mal desenhados ou conduzidos possam refletir ou ampliar preconceitos e vieses humanos ao terem desempenho reduzido em populações heterogêneas, sobretudo em pacientes do sexo feminino, negros ou de baixo nível socioeconômico.

Ao avaliar o uso de IA para detectar alterações pulmonares em radiografias de tórax, pesquisadores do Massachusetts Institute of Technology (MIT) relataram em estudo, recém-publicado na prestigiada revista científica Nature Medicine, que tais vieses podem se relacionar a erros diagnósticos mais frequentes nos subgrupos de pacientes citados. Ao ser incorretamente rotulado pelo algoritmo como um indivíduo saudável, um paciente doente pode ter o seu diagnóstico e tratamento inadequadamente postergados, o que é uma grande preocupação em populações historicamente mal atendidas. Estimular na sociedade o debate do impacto social do uso de IA na assistência à saúde é o motivo primordial de ocuparmos este espaço hoje.

Voltando a Warhol, um dos motivos que o faziam querer ser máquina estaria em outra constatação: “Machines have less problems” (“Máquinas têm menos problemas”). O inestimável legado que o artista deixou para a cultura contemporânea vai muito além de qualquer sofisma. Um robô com a voz de Andy é, ainda assim, um robô. Da mesma maneira, a importância da IA na nova era da medicina de precisão está para muito além da rapidez dos nossos diagnósticos. Ao incrementar a eficiência do nosso trabalho e reduzir o tempo que desperdiçamos em atividades “robóticas” e impessoais, a IA pode ainda restaurar a empatia na relação médico-paciente.

Diante de tamanhos desafios e potencialidades, é nesse equilíbrio entre inovação e humanismo que reside uma inédita oportunidade de oferecermos uma assistência mais precisa e inclusiva aos nossos pacientes.

[ Há uma preocupação crescente de que modelos de inteligência artificial mal desenhados ou conduzidos possam refletir ou ampliar preconceitos e vieses humanos ao terem desempenho reduzido em populações heterogêneas, sobretudo em pacientes do sexo feminino, negros ou de baixo nível socioeconômico