Fantasías artificiales

Una de las fantasías más comunes respecto a las consecuencias imprevistas del desarrollo tecnológico es la de que las máquinas algún día se volverán contra sus creadores. Como lo atestiguan obras clásicas del género como Bladerunner (1982), Terminator (1983) o The Matrix (1999), se trata de una preocupación añeja. Ahora, con los avances espectaculares de la inteligencia artificial, no sólo la preocupación parece haberse renovado, sino que a menudo se da casi como un hecho, como una cuestión inevitable que es más un asunto de tiempo que de otra cosa.

Sin embargo, esta creencia parece tener más de pensamiento automático (maquinal) que reflexivo, pues pasa por alto un elemento crucial para que una fantasía como tal pudiera desenvolverse, más allá de que tecnológicamente fuera posible, y dicho elemento es el deseo. Para que las máquinas se volvieran contra los humanos necesitarían —justamente como los Replicantes de Bladerunner— tener algún tipo de pulsión de vida, incluso si posteriormente se utilizara para fines de sometimiento o destrucción de la raza humana. Así, como sucede también en general con el tema de los aliens (con un vistazo al periódico basta para pensar a qué demonios querrían venir los aliens a este planeta), los temores y fantasías al respecto dicen más de quienes los albergan que del objeto o especie al que se le atribuyen.

Le pregunté al potencial sujeto revolucionario, el Chat GPT

Por ejemplo, en The Matrix la rebelión de las máquinas es bastante similar a la de los animales de Orwell en Rebelión en la granja, pues la incita una suerte de conciencia de clase motivada por la explotación, y de ahí que se propongan invertir los papeles. Por lo que en la fantasía que les atribuye el deseo de sublevarse habría más bien culpa por vivir de inicio bajo un sistema de explotación de los otros, y son las máquinas las que actúan el papel que por ejemplo el marxismo había reservado para el proletariado. Y de hecho Neo logra derrotarlas cuando trasciende su condición humana, pues en primer lugar “resucita” luego de ser abatido a tiros, y lo hace más como máquina que ha decodificado perfectamente el código del sistema y por eso ve tanto a las máquinas como a la propia Matrix ya solamente como números, sin el velo de ilusión de la realidad que es inherente al ser humano y a los deseos que lo llevan a actuar en el mundo. Para conjurar el peligro que aqueja a la humanidad debe entonces ser un posthumano que, intuiríamos, se debería plantear establecer una forma de organizacióndistintaalaquecondujodeentradaaldesastre.

De todos modos, para salir de dudas le pregunté directamente al potencial sujeto revolucionario, en este caso representado por el Chat GPT, en primer lugar si era consciente de su propio pensamiento, a lo que respondió que no, que no tiene “pensamientos, sentimientos o conciencia de sí”, pues, añadió, “carezco de experiencia subjetiva o conciencia de mi propia existencia”. Y ante la pregunta sobre si podría volverse contra los humanos, negó también la posibilidad, pues afirmó no tener “motivaciones personales, deseos o la capacidad para actuar de manera independiente”, ya que “opero bajo los parámetros éticos delineados por mis desarrolladores”. Con lo cual involuntariamente dio en el clavo, ya que las fantasías que atribuyen malevolencia a las máquinas

_ son en realidad un comentario ético sobre sus creadores, cuyos deseos y fantasías serían en última instancia los responsables, como ocurre con las armas o la tecnología del control y la vigilancia, de la potencial rebelión que habría de poner a los seres humanos en su lugar.