La magia de la inteligencia artificial
FUNDADO EN 1903 POR DON TORCUATO LUCA DE TENA
«De repente, los debates éticos sobre la IA ya no tratan de problemas concretos que necesitan soluciones normativas. De pronto, todos giran en torno al fin de la humanidad. Una vez más se puede intentar calmar a la gente. Los científicos, los juristas y los empresarios lo hacen. También algunos especialistas en ética. No escuchéis a los profetas agoreros. No es tan mala. Solo es una máquina.
Hay problemas, pero hay soluciones. Soluciones técnicas, pero también otras» ltimamente hay mucho miedo y mucha confusión en torno a la inteligencia artificial (IA). En los medios de comunicación circulan afirmaciones descabelladas. Elon Musk alertó de la «destrucción de la civilización». Una carta abierta del Instituto para el Futuro de la Vida pide que se detenga su desarrollo. Geoffrey Hinton, pionero de la herramienta, abandona Google para advertir de los peligros que esta encierra. Yuval Noah Harari declara que no sabe «si los humanos pueden sobrevivir a la inteligencia artificial». Está claro que reina el pánico moral. La gente no sabe qué pensar al respecto. ¿Qué es la inteligencia artificial? ¿Realmente es peligrosa? ¿Se acerca el fin de la humanidad? ¿Qué está pasando? Los cambios tecnológicos son rápidos, y nos cuesta encontrarles sentido.
Para entender lo que está ocurriendo, es importante darse cuenta de que la IA no es solo una tecnología, sino también una historia. Tiene que ver con la cultura, con las formas de ver el mundo y con nuestra manera de pensar. Y todo esto es importante, para el desarrollo de la tecnología y para la ética de la inteligencia artificial; para entender la fascinación y el pánico; y para hacer una crítica de todo ello.
Una manera interesante de mostrar en qué sentido la inteligencia artificial y las historias están entrelazadas, y cómo la cultura moldea nuestra experiencia de la tecnología, es afirmar que la IA es mágica. Es mágica porque no la entendemos. Es mágica porque nos sorprende, hace cosas inesperadas. Es mágica porque predice el futuro, porque crea ilusiones, y porque se nos puede ir de las manos. La inteligencia artificial es mágica porque no la entendemos. Muchas personas la usamos, por ejemplo, cuando utilizamos el buscador de Google o ChatGPT, pero no tenemos ni idea de cómo funciona. Da la sensación de que casi todo el mundo habla de ella sin saber de qué está hablando.
Esto es infinitamente molesto para quienes se dedican a investigarla y para los especialistas en ciencias de datos que trabajan a diario con estas tecnologías. Intentan explicárselo a la gente corriente diciéndole que es una cuestión de estadística y de patrones de los datos. Pero olvidan que la tecnología no es solo técnica. La tecnología también es una historia. Los humanos contamos historias para dar sentido al mundo. La inteligencia artificial es un cuento de hadas y una pesadilla, una visión del futuro y una historia de terror. Es el monstruo y el salvador, Frankenstein y Superman. Las tecnologías intuyen nuestros peores miedos y nuestras mayores esperanzas. Estos relatos influyen en las percepciones y los debates públicos sobre la IA. Cuando hablamos de inteligencia artificial, no solo hablamos de algoritmos o de datos; también hablamos del futuro de nuestra sociedad y del futuro de la humanidad. La IA también es mágica porque nos sorprende. Hace cosas que no esperamos. Introducimos algo, pero no podemos predecir el resul
Útado. Nos sorprende porque nos parece tan humana, por ejemplo, cuando crea hermosas imágenes o textos poéticos.
Esta experiencia es muy diferente de la de tecnologías anteriores, como el martillo o el coche. Los martillos y los coches no nos sorprenden realmente. Un martillo puede romperse, y un coche puede dejar de funcionar de repente, pero cuando funcionan, hacen lo que esperamos que hagan. La inteligencia artificial es diferente. Puede hacer jugadas de ajedrez inesperadas o producir textos que nos conmueven. Es impredecible. Y no siempre podemos explicar cómo llega a ese resultado. Da la impresión de ser creativa, de ser como nosotros, de ser humana. También en este caso hay mucha gente que nos recuerda que no es así. La IA no es humana. Es una máquina. Pero parece que eso no es muy importante. Una vez que interactuamos con ella, estamos perdidos. Nos comportamos como si habláramos con otro ser humano.
La inteligencia artificial es mágica y nos fascina porque predice el futuro y crea ilusiones. Es como un oráculo, un adivino, un gurú, una bruja de Shakespeare. Esperamos ansiosos lo que nos susurrará sobre el mundo y sobre nosotros. Parece saber cosas que nosotros ignoramos. Introducimos un tema y esperamos intrigados, esperanzados, rezamos tal vez. La inteligencia artificial es como un ilusionista, quienes la desarrollan y la diseñan son magos profesionales: puede que sepamos perfectamente que su funcionamiento tiene una explicación científica, somos conscientes de que es un truco, pero nos encanta que nos engañen. Estamos listos para el espectáculo de magia. Danos un autor, un artista, un compañero. Danos dulces ilusiones. Entretennos. Y algo más: asómbranos. Como he sostenido en ‘New Romantic Cyborgs’ (Ciborgs neorrománticos), utilizamos la tecnología con fines románticos. Queremos magia, misterio y amor, y esperamos que la tecnología nos los proporcione.
Pero, por último, la inteligencia artificial también es un juguete peligroso. Jugamos con fuego. Las cosas se nos pueden ir de las manos. La IA puede confundirnos, mentirnos. Puede volverse contra nosotros e insultarnos. Incluso puede aconsejar a alguien que se quite la vida, como ocurrió en un caso reciente en Bélgica. La gente está preocupada. El genio ha salido de la lámpara y es un demonio. Se ha abierto la caja de Pandora. Hemos comido del fruto del saber prohibido. El monstruo de Frankenstein se ha escapado. Poco a poco pero indefectiblemente, los aprendices de brujo también empiezan a asustarse. Los consejeros delegados de las grandes empresas tecnológicas no son los únicos que advierten del desastre; también los científicos. De repente, los debates éticos sobre la IA ya no tratan de problemas concretos que necesitan soluciones normativas. De pronto, todos giran en torno al fin de la humanidad.
Una vez más se puede intentar calmar a la gente. Los científicos, los juristas y los empresarios lo hacen. También algunos especialistas en ética. No escuchéis a los profetas agoreros. No es tan mala. Solo es una máquina. Hay problemas, pero hay soluciones. Soluciones técnicas, pero también otras. La regulación puede ayudar; la ética de la inteligencia artificial también. Y eso está bien. Actualmente existe todo un campo, la ética de la inteligencia artificial. A veces da la impresión de que hay más gente trabajando en la ética de la IA que en la propia IA. A menudo de manera superficial, pero existe la voluntad. Se trabaja y se obtienen resultados. No tenemos que elegir entre el cielo y el infierno, entre el tecno-optimismo ingenuo y el pensamiento catastrofista. Centrémonos en los problemas concretos. Reunamos a personas de diferentes disciplinas. Creemos una tecnología mejor.
Son buenas noticias. El mundo no se va a acabar. Mantengan la calma y hagan sus deberes de ética de la inteligencia artificial. Pero todos esos documentos, reuniones y leyes no acabarán con la magia de la IA. No acabarán con las historias. A los seres humanos nos gustan las historias. Necesitamos dar sentido a lo que ocurre. Y por eso necesitamos una ética de la inteligencia artificial basada en las humanidades. No necesitamos solo nuevas normas para la IA o una IA nueva y más ética. También necesitamos mejores historias. Sobre el futuro de la tecnología y sobre nuestro futuro común.
Mark Coeckelbergh es profesor de Filosofía de los Medios y la Tecnología en la Universidad de Viena