El robot de ChatGPT busca los límites de la inteligencia artificial

EL ‘CHATBOT’ DE OPENAI, QUE ES CAPAZ DE GENERAR INGENTES CANTIDADES DE TEXTOS VEROSÍMILES A UNA VELOCIDAD ASOMBROSA, ESTÁ GENERANDO UN DEBATE ENTRE LAS INTERPRETACIONES PATERNALISTA Y LIBERTARIA DE LA INTELIGENCIA ARTIFICIAL GENERATIVA.

¿Qué pensar de ChatGPT, la última iteración de la “inteligencia artificial generativa” que está energizando el mundo tecnológico? Aunque la empresa de análisis de San Francisco OpenAI no lo lanzó hasta la semana pasada, más de un millón de usuarios ya han experimentado con este chatbot al que se le puede pedir que produzca montones de textos verosímiles a una velocidad asombrosa.

Los entusiastas usuarios predicen que ChatGPT revolucionará la creación de contenidos, la producción de software, los asistentes digitales y los motores de búsqueda, e incluso podría transformar la subestructura digital del conocimiento humano. Uno de ellos tuiteó que la importancia de ChatGPT era comparable a la división del átomo.

Una retórica tan descabellada hace que algunos informáticos se rasguen las vestiduras, ya que sostienen que ChatGPT no es más que un sofisticado sistema de aprendizaje automático que puede ser increíblemente bueno en el reconocimiento de patrones y la réplica, pero que no muestra ningún atisbo de inteligencia. Además, ChatGPT ni siquiera es una tecnología nueva. Se trata de una versión modificada de GPT-3, un modelo de lenguaje lanzado por OpenAI en 2020, que se ha optimizado para el diálogo con orientación humana y se ha abierto a más usuarios.

Curiosamente, el propio ChatGPT parece mucho menos

ChatGPT identifica defectos propios como la falta de sentido común y los datos sesgados

entusiasmado con sus propias capacidades. Al pedirle que identificara sus defectos, ChatGPT enumeró la comprensión limitada del contexto, la falta de sentido común, los datos de programación sesgados y el potencial de uso indebido, por ejemplo, mediante la difusión de información errónea para manipular los mercados financieros. “Aunque ChatGPT es una tecnología potente e impresionante, no está exenta de limitaciones y defectos potenciales”, respondió. Un investigador es más contundente. “Se imagina los hechos”, afirma.

Aunque el interés público por ChatGPT se centra principalmente en su capacidad para generar texto, su mayor impacto empresarial y social puede venir de su correspondiente capacidad para interpretarlo. Estos modelos están potenciando los motores de búsqueda semántica, que prometen contenidos mucho más personalizados y relevantes para los usuarios.

Mientras que los motores de búsqueda tradicionales ofrecen resultados en función del número y la calidad de los enlaces a una página (lo que se considera un indicador de su importancia), los motores de búsqueda semántica analizan la relevancia del conteni-* do de la página. Google está desarrollando su propio y potente modelo de base LaMDA, mientras que Microsoft, que gestiona el buscador Bing, ha hecho una fuerte inversión en OpenAI.

Un equipo de investigación de la Universidad McGill ha demostrado que los modelos de base pueden utilizarse para interpretar y generar contenidos a gran escala. Empleando un modelo GPT-2 anterior para leer 5.000 artículos sobre la pandemia producidos por Canadian Broadcasting Corporation, lo indujo a generar “periodismo contrafactual” sobre la crisis.

La cobertura del modelo GPT-2 fue más alarmante, ya que hizo hincapié en los aspectos biológicos y médicos de la pandemia, mientras que el periodismo humano original se centró más en las personalidades y la geopolítica e inyectó un elemento unificador de positividad forzada. “Estamos utilizando la IA para poner de relieve los prejuicios humanos”, afirma Andrew Piper, director del proyecto de investigación de McGill. “Estamos utilizando la simulación para comprender la realidad”.

Pero al inyectar información humana no especificada en ChatGPT, OpenAI añade una nueva dimensión de controversia. Con bastante sensatez, OpenAI ha añadido barreras de contención para intentar evitar que ChatGPT genere contenidos tóxicos o peligrosos. Así, por ejemplo, ChatGPT se negó a decirme cómo construir una bomba nuclear.

Estas barreras son esenciales para evitar que se abuse de los modelos fundacionales, pero, ¿quién decide cómo se diseñan y funcionan estas barreras?, se pregunta Percy Liang, director del Centro de

Investigación sobre Modelos Fundacionales de la Universidad de Stanford. Estos modelos pueden ser increíblemente útiles para la investigación científica y médica y para automatizar tareas tediosas. “Pero también pueden destrozar el ecosistema de la información”, advierte.

Está surgiendo rápidamente el contorno del debate entre la inteligencia artificial paternalista y la liberal. ¿Deben controlarse o “democratizarse” estos modelos? “El nivel de presión censora que se avecina para la inteligencia artificial y la reacción resultante definirán el próximo siglo de la civilización”, tuiteó Marc Andreessen, empresario e inversor tecnológico.

Puede que Andreessen esté exagerando, pero no cabe duda de que los modelos de base determinarán cada vez más la forma en que vemos, accedemos, generamos e interpretamos los contenidos en línea. Debemos examinar quién dirige estos nuevos portales digitales del conocimiento humano y cómo se utilizan. Pero es dudoso que alguien ajeno a las empresas pioneras en esta tecnología pueda comprender realmente, y menos aún modelar, su rápida evolución.