Quantos modos humanos de amar são possíveis?

O último romance de Kazuo Ishiguro, “Klara e o Sol”, abala todas as coordenadas que temos sobre as possibilidades da inteligência artificial. O escritor não está interessado em discutir se as máquinas podem ter uma consciência humana. Ishiguro quer escrever sobre a hipótese de uma máquina superinteligente constituir o único ser contemporâneo capaz de dar amor puro.

Há um momento em que Kazuo Ishiguro é extremamente claro sobre o que quis escrever em “Klara e o Sol”. Na conversa a dois que realizou com o Nobel e geneticista Venki Ramakrishnan, organizada em março pelo festival literário do Financial Times Weekend, Ishiguro revelou estar “preocupado” com o impacto “tremendo do desenvolvimento” da inteligência artificial e da edição genética “nas relações humanas dentro da família”.

O avanço vertiginoso das capacidades e das possibilidades abertas pela inteligência artificial e pela edição genética levanta questões maiores a Ishiguro. Pergunta ele: “Será que de algum modo irá mudar a forma como olhamos para nós como indivíduos?” Pergunta ainda: “Se eu olho de modo diferente para alguém, será que isso vai mudar a natureza do amor?” Segundo o escritor, “temos de nos preocupar sobre como vamos reorganizar a nossa sociedade a partir destas mudanças gigantescas”, dando-as como inevitáveis.

Ishiguro tece delicada e cuidadosamente hipóteses de respostas para estas perguntas através de Klara, a personagem fundamental do seu romance agora publicado. Talvez o mais interessante nas hipóteses de resposta elaboradas por Ishiguro seja o modo como o escritor molda Klara e, com esta construção ficcional, determina toda a narrativa.

Klara, a que Ishiguro chama Girl AF Klara, ou seja, Rapariga de Inteligência Artificial Klara, tem, antes de tudo o que se segue, uma base científica. O molde de Klara é uma das linhas de trabalho atuais da robótica e da inteligência artificial com maior investimento, mas igualmente com maior discussão.

O campo de trabalho tem geralmente os nomes de “computação afetiva” ou “inteligência artificial emocional”, e lida com a questão fundamental de futuros sistemas tecnológicos superinteligentes adquirirem a capacidade de possuir uma consciência, de incorporarem valores e de terem sentimentos. Por outras palavras, de serem humanos.

Para os cientistas e programadores envolvidos neste campo, e também para os especialistas de ética que seguem os progressos registados, colocam-se duas questões essenciais. A primeira é a de se é possível, ou virá a ser possível, usar um código para incorporar consciência em entidades tecnológicas, ou se a programação nunca passará de colocar nas referidas entidades um modo de pensar, mas totalmente racional, isto é, gerado a partir dos dados inseridos e dos algoritmos construídos.

A segunda questão que se põe é a de se, a partir do código introduzido, as entidades tecnológicas poderão criar de forma autónoma e individual pensamento e consciência. É exatamente a partir desta base e destas hipóteses científicas que Ishiguro molda Girl AF Klara, o que mostra que o escritor, como o próprio confessa em várias entrevistas, está profundamente envolvido na investigação do tema.

No entanto, Ishiguro não tem para Girl AF Klara um destino de personagem assente apenas na exploração básica das hipóteses científicas já aqui anotadas. Usando toda a latitude da ficção, e trazendo de novo para o texto o seu imaginário fascinante e singular, Ishiguro cria uma Girl AF Klara que incorpora desde a sua criação, que é artificial e gerada por código, as capacidades de empatia, de sentimento, de emoção, de perceção. Isto é, a capacidade de consciência.

Assim, toda a narrativa de “Klara e o Sol” assenta não na capacidade de uma máquina ser humana, mas no ponto mais avançado de, a partir do código com que foi criada a Girl AF Klara, compreender, tomar consciência e especialmente desenvolver a sua humanidade, como nós a conhecemos.

É um ponto avançado, formado a partir da liberdade da ficção, mas também da reflexão gerada pelo contínuo desenvolvimento científico, que Ishiguro já tinha tomado como seu em “Nunca me Deixes”, o seu romance sobre o modo como três clones destinados a serem extintos para doação de órgãos lidam com a dor, a perda, a morte, e a identidade.

Na novela agora publicada, Ishiguro constrói a humanidade de Girl AF Klara através de uma trama que, de algum modo, inverte as nossas referências comuns.

A Girl AF Klara é institucionalmente uma máquina para venda, com a função de fazer companhia a crianças. É na montra de uma loja destas máquinas que Josie, a criança, a vê e insiste com a mãe para a comprar. A Girl AF Klara assume o seu trabalho a partir do momento em que entra na casa da família de Josie, mas o comportamento gerado pelo seu código não é o que esperamos. Ela não está programada para fazer a criança feliz ou, escrito de outro modo, não é indicada para fazer a criança feliz através de uma ação comum em máquinas ou em humanos.

A entidade tecnológica superinteligente é capaz, por código ou por vontade própria —Ishiguro deixa a origem em aberto —, de detetar e de sofrer com a doença que consome Josie, depois de ter sido submetida a uma intervenção de edição genética, capaz, era esse o

O que Ishiguro ficciona ao mesmo tempo, com a sua voz narrativa extremamente delicada, é se uma máquina com um código de valores e de sentimentos não poderá ser capaz de sentir e partilhar um modo de amar simples e puro.

desejo dos seus pais, de a tornar num humano com melhor desempenho académico.

Detetando primeiro, tentando perceber depois e querendo acabar com o sofrimento de Josie, Girl AF Klara procura acima de tudo encontrar o modo mais eficiente de acarinhar e amar a criança — que é a missão para que foi criada.

O ponto-chave do romance, revelou Ishiguro, é exatamente o que é o amor e quantos modos humanos de amar são possíveis. O que o escritor ficciona é se um modo de amar como o dos pais de Josie, que a submetem por amor a edição genética, trazendo-lhe sofrimento, sendo genuinamente humano, no sentido em que todos os pais querem o melhor para os filhos, não é profundamente errado.

E o que Ishiguro ficciona ao mesmo tempo, com a sua voz narrativa extremamente delicada, é se uma máquina com um código de valores e de sentimentos não poderá ser capaz de sentir e partilhar um modo de amar simples e puro.

Um modo de amar extremamente humano, também. No fundo, Ishiguro está de novo, como esteve sempre, a trabalhar no território humano do permanente conflito entre a sombra assustadora e a luz redentora, e na necessidade permanente de encantamento nas nossas vidas.

O que o escritor traz para exploração em “Klara e o Sol” é a possibilidade de entidades tecnológicas serem capazes não só de possuírem consciência, mas também, tendo uma pureza que os humanos abandonaram, se transformarem na fonte rara do amor que todos procuramos.