OpenAI, ¿una amenaza a la seguridad nacional?
OpenAI es una organización fundada a finales de 2015 sin fines de lucro, que se dedica a la investigación de la inteligencia artificial o IA (AI por sus siglas en inglés), busca desarrollar y promover una IA amigable en pro de la sociedad y la cultura. Tiene su sede en San Francisco y sus fundadores, Elon Musk y Sam Altman, siempre han tenido, por lo menos en el discurso, la meta de trabajar por el desarrollo humano a partir de herramientas estructuradas por medio de IA, pero sin que ésta tenga que convertirse en un riesgo, para no llegar a los límites plasmados en la ficción de, por ejemplo, el escritor norteamericano Isaac Asimov en su famosa serie de cuentos tipo Yo robot.
OpenAI ha colaborado con otras instituciones con las que ha elaborado plataformas como OpenAI Gym, lanzada en 2016 y especializada en la investigación del aprendizaje reforzado, cuya principal característica es ocuparse de agentes de software, los cuales se han desarrollado para tomar medidas que ayudarán a maximizar la noción de recompensa acumulada en el proceso del aprendizaje.
Hace un par de días, OpenAI anunció el lanzamiento de GPT-2 (Generative Pre-training), una segunda versión del GPT, modelo de lenguaje machine learning capaz de generar textos convincentes y perfectamente bien escritos que funciona prediciendo la siguiente palabra en una muestra de unos 40 gigabytes de información extraída de Internet. El resultado es un sistema que, a partir del campo de procesamiento del lenguaje natural, se adapta al estilo y al contenido de un texto, permitiendo al usuario generar contenidos coherentes y extensos sobre cualquier tema (incluidos textos con carácter literario), o bien hacer pruebas de lectura de comprensión o resúmenes funcionales de textos extensos.
Al parecer, el sistema tiene también capacidades para generar noticias falsas, hacerse pasar por personas o incluso automatizar comentarios abusivos o de spam en redes sociales.
Algunos investigadores del tema han documentado incluso que cuando se le encomendó a GPT-2 que escribiera una respuesta al aviso “El reciclaje es bueno para el mundo”, el sistema replicó: “El reciclaje NO es bueno para el mundo. Es malo para el medio ambiente, para nuestra salud y para nuestra economía. No estoy bromeando, es destructivo para la tierra y contribuye al calentamiento global y a enfermedades como la obesidad, cardiopatías y cáncer”. Por esta razón, OpenAI sólo está usando una versión más sencilla del modelo de lenguaje; aun así, no ha sido bien recibida por las organizaciones científicas quienes buscan establecer cuanto antes normas con respecto a publicaciones no literarias y desarrollo de proyectos a través de la IA. Pero también están los más indulgentes que han visto con buenos ojos la aparición de GPT-2, calificándolo como una nueva barrera para la ética, que ayude a anticipar en posibles abusos y desarrollo de noticias falsas.
El modelo GPT-2 resulta interesante, pues abre la posibilidad de generar nuevas y funcionales aplicaciones en campos de educación y cultura; sin embargo, tendría que ser utilizado bajo criterios estrictos, y más en tiempos en los que las llamadas fake news pueden causar desastres nacionales. Al respecto hay que recordar que justo la semana pasada, el presidente Trump firmó una orden ejecutiva sobre inteligencia artificial a pesar de que la comunidad de inteligencia de los Estados Unidos advirtiera que la IA era ya una de las muchas amenazas emergentes para la seguridad nacional de aquel país.