Inteligencia artificial
Mientras debatimos , nos indignamos , sufrimos o nos alegramos con las preocupaciones grandes o pequeñas que nos aquejan del diario vivir, hay discusiones de otras dimensiones a nivel mundial, que circulan por carriles ajenos a la inmensa mayoría.
Grandes referentes de la tecnología se han unido en un pedido difundido por el sitio “Future of life”, con la aspiración de enlentecer los experimentos gigantes en Inteligencia Artificial (IA). Los nombres de los signatarios impresionan tanto por su número ( 1100) como los nombres de quienes apoyan al documento. Desde personajes poderosos y mediáticos, como Elon Musk, descollantes intelectuales como Yuval Harari, el prestigioso académico Stuart Russell de la Universidad de California o el informático canadiense Yoshua Bengio, reconocido por su trabajo en redes neuronales artificiales y aprendizaje profundo.
El núcleo de esta demanda y en simúltaneo,voz de alarma, nace de la preocupación generada por el desarrollo de la IA competitiva con la inteligencia humana y los riesgos que ello puede provocar en la sociedad, considerando que no tienen planificación ni gestión. Demandan a los laboratorios de IA, al menos una pausa de 6 meses del entrenamiento de los sistemas más potentes.
Según consignan dos artículos de La Nación, “en los últimos meses éstos han entrado en una carrera fuera de control para implementar mentes digitales cada vez más poderosas, que nadie, ni siquiera sus creadores, pueden entender, predecir o controlar, de forma fiable”. Eliezer Yudkowsky investigador de IA, cuyos escritos tuvieron un rol especial en la creación de Open AI, la startup creada por Sam Altman, padre del hoy discutido CHATGPT, cree que esa tecnología algún día podría destruir a la humanidad.
El terrorífico mundo de Odisea del Espacio 2001, de Stanley Kubrick, el mítico film en los EE.UU y Gran Bretaña de fines de los sesenta (1968) se ha acercado llamativamente a nosotros y aquella historia de ciencia ficción se ha vuelto alarmantemente real. La nave espacial Júpiter 1, viajaba hacia Júpiter con 5 tripulantes, tres en hibernación (para no envejecer), 2 despiertos y un supercomputador apodado HAL 9000, heurísticamente programado que gobernaba a la astronave utilizando inteligencia artificial, lo cual le permitía comunicarse con los humanos mediante el habla.
En una columna de Yuval Harari, Tristán Harris y Aza Raski se alude a que la mente humana le cuesta comprender las nuevas capacidades de GPT-4 y otras herramientas semejantes. Y más aún, asimilar la velocidad exponencial con las que éstas acrecientan sus propias habilidades. Si bien es una sola la destreza principal: generar y manipular lenguaje, ya sean palabras, sonido o imágenes. El lenguaje es el medio operativo de la cultura. (—“en el principio era el verbo, dice la Biblia”—). ..
Por medio de él nacen los mitos y la ley, los dioses y el dinero, el art, y la ciencia. Las amistades y las alianzas, las naciones y el código informático. Así que al dominar el vocabulario, la IA puede “hackear”, utilizar
Grandes referentes de la tecnología piden enlentecer los experimentos gigantes en Inteligencia Artificial (IA).
y torcer al gran vector de la civilización. Se ha apoderado de una llave maestra.
El espectro de la IA, aseguran, persigue a los hombres desde mediados del siglo XX, pero hasta hace poco seguía siendo una perspectiva lejana. -Más cerca de mentes como la de Kubrick o Ray Bradbury, que de las discusiones científicas o políticas serias-. ¿Que significaría vivir en un mundo donde un gran porcentaje de las historias, melodías, imágenes, leyes, políticas y normas, sean moldeadas por una mente no humana (recordemos -HAL 9000…-), que sabe explotar con eficiencia todas las debilidades, los sesgos y las adicciones de los seres humanos, con quienes además sabe establecer vínculos íntimos?
La IA podría devorar rápidamente a la cultura humana producida a lo largo de miles de años y empezar a escupir un diluvio de nuevos efectos culturales. No solo ensayos académicos, sino también discursos políticos, manifiestos ideológicos, o libros sagrados.
En sagas como “Terminator” o “Matrix”, había robots que apuntaban a la gente y para obtener el dominio físico de los cerebros conectándolos directamente a una red informática. Pero al adquirir el manejo de la lengua, la IA cuenta con lo necesario para confinarnos a un mundo de ilusiones sin tener que dispararle a nadie ni implantar ningún chip en los cerebros. Y si fuera necesario podría hacer que los seres aprieten ellos mismos el gatillo, simplemente contándoles la historia adecuada.
El primer contacto entre la IA y las personas fueron las redes sociales que alimenta nuestros contenidos de noticias, las que eligen las palabras, los sonidos, e imágenes que nos llegan. y Suficiente para contribuir a fogonear la polarización social dejando a la democracia hecha jirones”. Pero creen los autores del artículo que el destino de la AI “todavía está en nuestras manos”. – ¡Ojalá, así fuera!en la misiva de los expertos se sostiene que el desarrollo de la IA debe darse cuando se esté seguro de que sus efectos serán positivos y sus riesgos manejables y en otro fragmento del texto hay un llamado expreso a todos quienes trabajan en mecanismos de IA más potentes que GPT-4 para que hagan una pausa que debería ser pública y verificable, incluyendo en ella a todos los actores clave.
Si tal suspensión no se promulgara rápidamente, proponen que los gobiernos intervengan e instruyan una moratoria. Que la suspensión se utilice para armar un conjunto de protocolos de seguridad compartidos
El diseño y el avance en la materia debe ser debidamente auditada y supervisada por expertos externos independientes. Todo esto con la intención de que los avances sean más precisos, seguros y transparentes.
Pero es posible que suceda como en la mitología griega, con a Caja de Pandora. Una vez levantada la tapa, todos los males allí sujetos escaparon inexorablemente…