Alucinaciones de la IA. Inventa libros y artículos cuando no sabe una respuesta
Además de simular voces y caras humanas, los chatbots impostan conocimiento; la biografía falsa de Güiraldes y otros casos insólitos
¿ Alguien escuchó hablar del Journal of International Relief? ¿Y del Repositorio Digital Humanitario Internacional? Y por casualidad, ¿ Vida y obra de Ricardo Güiraldes (Editorial Kraft, 1952)? ¿No? Porque nada de todo eso existe. Son alucinaciones de la inteligencia artificial, que además de simular voces y caras humanas, también imposta sabiduría y conocimiento.
La IA está inventando artículos académicos que no existen y libros que jamás fueron publicados. Lo inquietante es que esas fuentes están siendo citadas en revistas reales por investigadores y estudiantes desprevenidos. Es tal la proliferación de referencias a artículos falsos que muchos académicos creen que se está socavando la legitimidad de la investigación institucional y, por lo tanto, el futuro inmediato de ella.
El mundo académico, invadido por ficciones
Las herramientas de IA generativa, como ChatGPT, transformaron la educación. Los estudiantes las emplean para ahorrar tiempo y esfuerzo. Una encuesta de 2024 del Centro de Investigación Pew refirió que el 26% de los adolescentes utiliza ChatGPT para sus trabajos escolares, el doble del año anterior. Pero la invención de textos escaló y ya se filtra en investigaciones de estudiantes que, de buena fe, caen sin querer en la cita de fuentes falsas.
Andrew Heiss, profesor adjunto del Departamento de Gestión Pública y Políticas de la Escuela Andrew Young de Estudios Políticos de la Universidad Estatal de Georgia, lo notó el año pasado mientras calificaba trabajos de sus alumnos y analizaba las citas en los artículos, para asegurarse de que condujeran a fuentes reales y no a referencias falsas dadas por un chatbot de IA. En su revisión, Heiss notó que las citas generadas por IA ya invadieron el mundo académico. Cada vez que intentó encontrar una fuente falsa en Google Académico, dio con decenas de otros artículos publicados basados en hallazgos de sutiles variaciones de los mismos estudios y revistas inventados. “Ese contenido termina circulando en trabajos reales, así que los estudiantes, al verlo citado en artículos legítimos, asumen que es verdadero y no entienden por qué se les restan puntos por uso de fuentes falsas cuando otros textos ‘reales’ también las tienen. Todo parece auténtico”, dijo en diciembre último a la revista Rolling Stone.
Las citas falsas se convirtieron en pesadilla de bibliotecarios de investigación. Se estima que emplean el 15% de su trabajo respondiendo a solicitudes de registros inexistentes a los que aludieron ChatGPT o Google Gemini, dijo Sarah Falls, jefa de participación de investigadores de la Biblioteca de Virginia. “Para nuestro personal, es mucho más difícil demostrar la inexistencia de un registro único”, declaró en diciembre pasado a la revista Scientific American. Fundada en 1845, es la revista de publicación más antigua de Estados Unidos, que ha publicado artículos de más de 200 ganadores del Premio Nobel.
La preocupación llevó a que el Comité Internacional de la Cruz Roja (CICR) emitiera un reciente comunicado previniendo a usuarios para que verifiquen la autenticidad de fuentes. “Somos conscientes de que algunos chatbots de IA (como ChatGPT, Gemini, Copilot, Bard y otros) pueden generar referencias legales y de archivo incorrectas o inventadas. Estos sistemas no investigan, verifican fuentes ni contrastan información. Generan contenido nuevo basándose en patrones estadísticos y, por lo tanto, pueden producir números de catálogo inventados, descripciones de documentos, fuentes erróneamente atribuidas o incluso referencias a plataformas inexistentes. Un riesgo específico es que las herramientas de IA generativa siempre generan una respuesta, incluso cuando las fuentes están incompletas o no se mencionan. Dado que su propósito es generar contenido, no pueden indicar que no existe información; en cambio, inventarán detalles (…). Si recibió una referencia de archivo, una fuente legal o la descripción de un documento de un chatbot de IA, tenga en cuenta que puede ser inexacta”, dice el texto, que linkea fuentes fiables de información para verificar datos.
Un Güiraldes inexistente
Celia Weimer, directora de la Biblioteca Jorge Luis Borges de la Academia Argentina de Letras, se encontró a sí misma buscando Ricardo Güiraldes: Su vida y su obra, de Alberto Güiraldes, Editorial Kraft, 1952. “Sucedió el año pasado, a pedido del investigador Juan Sebastián Morgado. No teníamos ese título y comenzamos a buscar en otras bibliotecas sin éxito. Lo volvimos a contactar por la posibilidad de que hubiera algún dato de la cita erróneo. El usuario insistía en que la cita era la proporcionada y comencé a sospechar por propia experiencia. Así que le pregunté de dónde la había extraído y me contestó que de ChatGPT”, contó a LA NACION.
“Lo que vino después fue bastante hilarante porque increpó al Chat por la información errónea y descubrió que la IA había inventado una gran cantidad de información; lo reconocía y ponía excusas como que seguramente había sido extraída en forma errónea de una carta de una tía. Un disparate total”, agregó. Morgado compartió su fastidio con LA NACION.
“La actual IA es la sucesora de Google, con más ‘pretensiones académicas’ pero similares problemas. En mis trabajos aparecen constantemente disparates, inconsistencias. Por eso recurro a la diversificación de las fuentes”, dijo. Sobre el “libro fantasma” de la vida de Güiraldes, contó: “Confronté varias fuentes y no existe. Aparece la referencia en alguna web y se reproduce el error ad infinitum”.
El autor preguntó a la IA sobre la vida del autor de Don Segundo Sombra y su esposa, Adelina del Carril, en 1925. “Me contestó con una serie impresionante de detalles: viajes a España, Francia, vuelta a España, retorno a la Argentina y vuelta a Europa. ¡Todo falso! Para verificarlo, simplemente tomé las cartas de la esposa del escritor a Guillermo de Torre, y ella aparecía plácidamente en Buenos Aires”, contó.
En sus i nvestigaciones sobre ajedrez, a las que dedica su mayor trabajo, “los disparates aparecen constantemente”. El último refiere al match de 1972 entre Fischer y Spassky, que menciona el “error de Spassky al capturar un peón”. En realidad, apuntó Morgado, “fue al revés”. Gracias a su naturaleza desconfiada, contó, evitó una vergüenza internacional. “A raíz de mis libros, recibo consultas. Un historiador checoslovaco se interesó por Karel Skalicka, y le envié informaciones tomadas de mis libros. Me quedaba una duda respecto al título de árbitro internacional que Skalicka debía tener. Entonces consulté a un alto dirigente oficial, preguntando por los registros en su archivo. Lo que yo preguntaba era solo un dato, pero el dirigente me contestó con un largo texto que detallaba la biografía de Skalicka y su paso por la Argentina. Era un texto elaborado como si lo hubiera escrito él; era un típico informe de IA. El 90% de esa ‘biografía’ de Skalicka era falsa. Me di cuenta y evité un papelón”.
Para Alicia María ▶orrilla, expresidente de la Academia Argentina de Letras, quien ayudó a buscar el “libro fantasma de Güiraldes”, conviene detenerse en el mensaje del papa León XIV para la LX Jornada Mundial de las Comunicaciones Sociales, convencida de “no renunciar al pensamiento propio”.
“Simulando voces y rostros humanos, sabiduría y conocimiento, conciencia y responsabilidad, empatía y amistad, los sistemas conocidos como inteligencia artificial no solo interfieren en los ecosistemas informativos, sino que también invaden el nivel más profundo de la comunicación, el de la relación entre las personas”, dice el texto.
Este mes, líderes mundiales parecieron decir que debemos desconfiar de lo interpersonal y humano. La pregunta es cuánto más el universo de ficción complaciente que nos entrega la IA puede ser una anestesia y alternativa para la incomodidad que provoca el campo de la realidad humana.●