Carme Torras
‘La mutación sentimental’, de la investigadora robótica Carme Torras, servirá para enseñar ética a los ingenieros estadounidenses
EXPERTA EN ROBÓTICA
El libro de la especialista en inteligencia artificial Carme Torras, titulado La mutación sentimental, se ha convertido en material didáctico con el que enseñar ética a ingenieros e informáticos en Estados Unidos.
La novela catalana La mutació sentimental (Pagès 2008, traducida al castellano en 2012 por Milenio), de Carme Torras, se ha convertido en material didáctico del Instituto Tecnológico de Massachusetts (MIT). Traducida al inglés como The Vestigial Heart y acompañada de una guía docente que ha elaborado la propia autora, servirá para la formación ética de los ingenieros e informáticos estadounidenses. Hace tiempo que Torras, matemática y especialista en inteligencia artificial y robótica, llegó a la conclusión de que la mejor manera de abordar la ética de la robótica social era ficcionar un futuro en el que las personas conviven con robots domésticos y entretejer en la trama los problemas sociales, emocionales y morales que tales interacciones plantean.
Por eso escribió La mutación sentimental, que cuenta la historia de Celia, una niña de trece años que fue criogenizada con la esperanza de que en un futuro cercano se encontrara una cura para su enfermedad y que una vez vuelta a la vida descubre una sociedad donde las emociones humanas se han extinguido y la gente confía en los asistentes robóticos para su vida cotidiana.
Este argumento y personajes como Leo –un bioingeniero que quiere desarrollar prótesis de creatividad para aumentar las capacidades atrofiadas de los humanos–, o Silvana –una masajista emocional que investiga en libros antiguos el poder de la emoción para ayudar a las personas a recuperar las sensaciones perdidas–, dan pie a Torras para abordar cuestiones como qué debe y qué no debe hacer un asistente perfecto, hasta qué punto es conveniente que los robots simulen emociones o si es deseable que las máquinas tengan código ético, por ejemplo.
“En las universidades estadounidenses todas las carreras tecnológicas y de informática incluyen una asignatura de ética, pero no hay material específico para abordar la ética de la robótica social y los profesores han de tratarla con textos de filosofía o de ciencia ficción clásica, así que los responsables del MIT Pre, viendo que yo abordo este tema desde el ámbito de la robótica, me pidieron que elaborara recursos didácticos a partir de mi novela”, explica Torras, que trabaja como profesora de investigación en el Instituto de Robótica CSIC-UPC.
El resultado es una guía para docentes que aborda los dilemas que plantean las relaciones entre personas y robots tanto desde el punto de vista de la apariencia de las máquinas como de su responsabilidad legal, su pretendida moralidad o su impacto en el desarrollo cognitivo-afectivo de las personas. En ella Torras explica que, como la mayoría de investigadores, ella no respalda ni una visión catastrófica del futuro ni un optimismo ciego con respecto al progreso tecnológico, y sostiene que la ciencia puede ayudar a aclarar el papel que las personas y los robots tienen que jugar en esa interacción a la que irrevocablemente están abocados en un futuro ya muy próximo.
Para ello, en los seis capítulos en que ha dividido la guía y que van vinculados al contenido de la novela, formula diversas preguntas –algunas reproducidas en esta página– destinadas a alentar la reflexión y el debate de quienes han de diseñar y programar las máquinas del futuro.
Torras les plantea, por ejemplo, si hay que dotar de moralidad a los robots, si conviene programarles códigos éticos. “De entrada uno pensaría que sí, pero diseñar un código ético que valga universalmente es imposible porque hay personas y situaciones más altruistas y otras más egoístas, y dudo que alguien quiera comprar un coche totalmente altruista que priorizará otras vidas sobre la del pasajero, así que al final quizá hayan de funcionar con unas reglas básicas como no invadir aceras o circular siempre por su carril, sin regular su moralidad”.
La investigadora también fuerza a reflexionar sobre la importancia de la apariencia del robot y sus habilidades como asistente. “Las máquinas deben asemejarse a los humanos solo en la medida que lo necesiten para realizar sus tareas en un entorno de personas, pero no más, para evitar que llamen a engaño o alienten el apego emocional, sobre todo en el caso de menores o de personas con problemas cognitivos”, opina. Cree que los desarrolladores deben cuestionarse además qué es un asistente perfecto. “Podemos entender que en el caso de un robot cuidador, es aquel que recopila datos de la persona, informa al médico y le facilita el tratamiento, pero no hay que olvidar que esa persona tiene derecho a la privacidad y a controlar su propia vida, y eso incluye negarse al tratamiento o no querer seguir una dieta, por ejemplo”, señala. En su opinión, la clave está en diseñar los asistentes robóticos de manera que no tomen decisiones que invadan la capacidad de decidir de la persona, que no la cosifiquen y actúen sin informarla y sin obtener su consentimiento.
Otro ámbito donde la ética robótica resulta crucial es el de la educación. Torras plantea que los robots pueden ser muy útiles para hacer el seguimiento del progreso de los niños o ayudarlos a practicar aprendizajes, pero cuestiona si con maestros robóticos los niños aprenderán a sentir empatía y a razonar de manera emocional y no sólo lógica; o dónde se fija el límite entre ayudar a aprender y crear dependencia o convertirse en un sustituto afectivo.
Al margen del potencial didáctico que los profesores del MIT han visto en ella, La mutación sentimental ha sido objeto de reconocimientos literarios, como el premio Manuel de Pedrolo de narrativa de ciencia-ficción 2007 y el premio Ictineu 2009.