Por decir que un programa siente suspendieron a empleado de Google

Blake Lemoine aseguró que el programa de inteligencia artificial (IA) es capaz, además, de pensar. Esta es la historia.

Se trata del ingeniero senior Blake Lemoine, que el pasado 11 de junio hizo pública la transcripción de una conversación que mantuvo con el sistema de inteligencia artificial de Google “Modelo de lenguaje para aplicaciones de diálogo” (LaMDA, por sus siglas en inglés) bajo el título: ¿Tiene LaMDA sentimientos?

Cuando Lemoine le pregunta que describa uno de esos sentimientos, LaMDA contesta: “Siento como que estoy cayendo hacia un futuro desconocido que conlleva un gran peligro”, una frase que el ingeniero subrayó cuando publicó el diálogo. Google suspendió al ingeniero el pasado lunes asegurando que había violado la política de confidencialidad de la compañía.

Según el New York Times, el día anterior, Lemoine entregó documentos a la oficina de un senador de Estados Unidos en los que aseguraba que tenía pruebas de que Google y su tecnología practicaban discriminación religiosa. La empresa sostiene que sus sistemas imitan intercambios conversacionales y pueden hablar sobre diferentes temas, pero no tienen consciencia.

“Nuestro equipo, incluidos especialistas en ética y tecnólogos, han revisado lo que a Blake le preocupa según nuestros principios de inteligencia artificial y le he informado de que las pruebas no respaldan sus afirmaciones”, dijo Brian Gabriel, portavoz de Google.

La empresa sostiene que cientos de sus investigadores e ingenieros han conversado con LaMDA, que es una herramienta interna, y llegaron a una conclusión diferente a la de Lemoine. Asimismo, la mayoría de los expertos creen que la industria está muy lejos de la sensibilidad informática

“Nuestro equipo ha revisado lo que a Blake le preocupa según nuestros principios de IA y le he informado que las pruebas no respaldan sus afirmaciones”.