Robot que ‘conversa’ como un humano causa inquietud
→Sistema Duplex es capaz de llamar por teléfono y mantener una conversación →Presentación atiza debate sobre uso ético de la inteligencia artificial
Entre asombrados y preocupados, así quedaron quienes asistieron a inicios de mayo pasado a la conferencia anual de desarrolladores I/O para conocer el Google Duplex, un sistema basado en inteligencia artificial (IA).
La herramienta exhibió su potencial y demostró que, en el futuro cercano, podría permitir al asistente inteligente de la gigante de Internet llamar por teléfono y, en lenguaje natural y nada robótico, reservar una mesa en un restaurante o sacar cita en el salón de belleza.
La sorpresa trascendió las instalaciones del anfiteatro Shoreline en Mountain View, –donde Google exhibió las posibles aplicaciones de esta novedad– y fue a dar a las redes sociales, donde las reacciones fueron numerosas y diversas, yendo desde el asombro y la fascinación, hasta la consternación.
¿Por qué la demostración despertó tantas emociones? El asistente no solo logró llamar a un establecimiento y mantener una conversación, sino también fue capaz de utilizar expresiones tales como “hmm” y “uh”, las cuales son características de los humanos.
“En los estudios de usuario, encontramos que las conversaciones que utilizan estas expresiones suenan más familiares y naturales”, aseguró la empresa en su blog de Inteligencia Artificial y de ahí que decidiera incluirlo en su herramienta.
¿Cómo funciona esta tecnología? Google explicó que Duplex se trata de una red neuronal recurrente (RNN), es decir, una red que fue entrenada por medio de ayuda de un corpus de datos de conversaciones telefónicas anonimizadas.
Para conseguir que el asistente sea capaz de realizar estas llamadas, “la red utiliza la tecnología de reconocimiento automático de voz (ASR) de Google, así como las características del audio, el historial y los parámetros de la conversación (por ejemplo, cuál es el servicio que se desea solicitar o la hora) y más”, según explican el texto firmado por Yaniv Leviathan, ingeniero principal y Yossi Matias, vicepresidente de ingeniería de Google, en el blog de la compañía.
Inteligencia real. Según Gilles Maury, líder de la industria de Tecnología, Medios y Telecomunicaciones de Deloitte, “lo que vimos con Google Duplex es una inteligencia muy similar a la del ser humano, en la cual existe la capacidad para encontrar soluciones con miras a una actividad que no ha sido prevista o preprogramada”.
En la demostración durante Google I/O, la persona que atiende la llamada no se da cuenta de que está conversando con un robot y no con un ser humano; esto, según Maury, “nos reconecta con algo que existe desde el nacimiento de la inteligencia artificial, que es la famosa prueba de Turing”.
Allan Turing, matemático al que se le atribuye la paternidad de la IA había establecido que se podría usar este término como tal, cuando tuviéramos una máquina capaz de hacerse pasar por un humano; él ni siquiera estaba pensando en algo vocal, sino en algo basado en texto, explicó Maury a La Nación. Este avance de Google parece haberlo conseguido.
Ante la preocupación de que al hacer una de estas llamadas el asistente no revelara su identidad frente al interlocutor, por ejemplo, el empleado de un salón de belleza o de un restaurante, Google aseguró en su blog que sí “aclarará la intención de la llamada para que las empresas entiendan el contexto”.
Sobre ese punto, Priscilla Chaves, líder de Experiencia del Cliente de Cognitiva –una empresa de GBM que se encarga de comercializar la división de inteligencia artificial de IBM Watson en Latinoamérica– destacó que debido a la forma en que se presentó Duplex, en medio del keynote principal de Google I/O es normal que la gente estuviese hablando de eso e inclusive que se despertara algo de controversia.
Sin embargo, puntualizó que: “Sobre el tema ético estamos discutiendo hace muchos años. Es por eso que Google, IBM, Amazon, Intel y otros gigantes de las tecnologías son parte de un comité global, en el que firmaron un compromiso para el uso ético y adecuado de la inteligencia artificial.
“Además, establecieron que entre ellos mismos no estarían proponiendo un uso poco ético o irresponsable de un producto (de este tipo)”, aclaró Chaves.
A un mes del Google I/O, la gigante de Internet ha hecho pú-
blicos sus principios sobre la inteligencia artificial en una artículo firmado por el mismo Sundar Pichai, director ejecutivo de la compañía.
Sin embargo, no ha puesto el foco en Duplex, citándolo tan solo como “un asistente digital con el que puedes hablar de forma natural”, sino que lo ha mencionado apenas como ejemplo, entre las posibles aplicaciones de la IA.
En cambio, ha fijado siete principios que planea respetar en el uso e implementación de la Inteligencia Artificial, entre ellos destacan: ocuparse de que los avances sean beneficiosos para la sociedad, que eviten crear o reforzar sesgos injustos y que sean creados e implementados en ambientes que garanticen el tema de la seguridad.
Además, que las tecnologías en IA estén sujetas a los controles humanos correspondientes, que incorporen desde su origen cuidados con respecto al tema de la privacidad de las personas y que mantengan altos estándares de excelencia científica, así como que estén disponibles para usos que respeten los principios antes mencionados.
Transformación acelerada. El avance vertiginoso de las tecnologías no solo plantea un reto para las empresas en cuanto a usos éticos, sino también desafía a seguirle el paso a este tipo de innovaciones para poder normarlas y legislarlas, con el fin de proteger la privacidad de los usuarios.
The Future Today Institute, entidad que prepara las compañías para enfrentarse a escenarios de futuro complejos, planteaba en su boletín titulado Robots vs Robocalls, que una tecnología como Duplex esboza cientos de interrogantes.
Entre ellas: “¿Cuánta escucha digital están las personas dispuestas a aceptar? ¿Bajo qué circunstancias? ¿Qué pensarían los clientes de esto? ¿Cómo podría este tipo de tecnología afectar un negocio?”.
El Instituto reflexiona sobre la posibilidad de que un servicio de este tipo tenga como requisito para funcionar grabar y analizar la conversación que el asistente virtual sostiene con un ser humano, y que es probable que esas llamadas se analicen posteriormente más a fondo para modificar y mejorar el sistema en el futuro.
Es así donde surge una de las principales interrogantes, si el servicio no notifica, desde un inicio, que el que está al otro lado del teléfono es un asistente virtual y, además graba sin solicitar el consentimiento de la persona, ¿estaría infringiendo la ley?