IA, democracia y el orden mundial
Los futuros historiadores bien podrán decir que la segunda mitad de marzo del 2023 ha sido el momento en que verdaderamente comenzó la era de la inteligencia artificial (IA). En el lapso de apenas dos semanas, el mundo fue testigo del lanzamiento de GPT-4, Bard, Claude, Midjourney V5, Security Copilot y muchas otras herramientas de IA que han superado las expectativas de casi todo el mundo. La aparente sofisticación de estos nuevos modelos de IA ha superado por diez años las predicciones de la mayoría de los expertos.
Durante siglos, las innovaciones novedosas —desde la invención de la imprenta y el motor a vapor hasta el auge del transporte aéreo e Internet— han impulsado el desarrollo económico, expandido el acceso a la información y mejorado marcadamente la atención médica y otros servicios esenciales. Pero estos desarrollos transformadores también han tenido consecuencias negativas, y el despliegue acelerado de las herramientas de IA no será diferente.
La IA puede realizar tareas que los seres humanos odian hacer. También puede brindar educación y atención médica a millones de personas que están relegadas en los marcos existentes. Y puede, en gran medida, mejorar la investigación y el desarrollo, abriendo potencialmente las puertas a una nueva era dorada de innovación. Pero también puede sobrecargar la producción y diseminación de noticias falsas, desplazar en gran escala la mano de obra humana, y crear herramientas peligrosas y disruptivas que podrían ser hostiles a nuestra propia existencia.
Específicamente, muchos creen que la llegada de la inteligencia artificial general (IAG) —una IA que puede adiestrarse a sí misma para realizar cualquier tarea cognitiva que pueden realizar los seres humanos— planteará una amenaza existencial para la humanidad. Una IAG cuidadosamente diseñada (o que esté gobernada por procesos de “caja negra” desconocidos) podría llevar a cabo sus tareas de maneras que comprometan elementos fundamentales de nuestra humanidad. Después de eso, el significado de ser humano podría estar mediado por la IAG.
Claramente, la IA y otras tecnologías emergentes exigen una mejor gobernanza, especialmente a nivel global. Pero los diplomáticos y los responsables de las políticas internacionales históricamente han tratado a la tecnología como una cuestión “sectorial” que es mejor dejar en manos de los ministerios de energía, finanzas o defensa —una perspectiva miope reminiscente de cómo, hasta hace poco, la gobernanza climática era considerada dominio exclusivo de los expertos científicos y técnicos—. Hoy en día, cuando los debates climáticos dominan la escena central, la gobernanza climática es vista como un ámbito superior que abarca a muchos otros, entre ellos la política exterior. En consecuencia, la arquitectura de la gobernanza actual apunta a reflejar la naturaleza global de la cuestión, con todos sus matices y complejidades.
Gobernanza tecnológica. Como sugieren las discusiones en la cumbre reciente del G7 en Hiroshima, la gobernanza tecnológica exigirá una estrategia similar. Después de todo, la IA y otras tecnologías emergentes cambiarán drásticamente las fuentes, la distribución y la proyección de poder en todo el mundo. Permitirán nuevas capacidades ofensivas y defensivas, y crearán dominios completamente nuevos para la colisión, la contienda y el conflicto —inclusive en el ciberespacio y el espacio exterior—. Y determinarán lo que consumamos, concentrando inevitablemente los retornos del crecimiento económico en algunas regiones, industrias y empresas, privando al mismo tiempo a otras de oportunidades y capacidades similares.
Es importante destacar que tecnologías como la IA tendrán un impacto sustancial en los derechos y libertades fundamentales, nuestras relaciones, las cuestiones que nos importan y hasta nuestras creencias más preciadas. Con sus circuitos de realimentación y su dependencia de nuestros propios datos, los modelos de IA exacerbarán los prejuicios existentes y tensarán los contratos sociales ya endebles de muchos países.
Eso significa que nuestra respuesta debe incluir numerosos acuerdos internacionales. Por ejemplo, en términos ideales, se deberían forjar nuevos acuerdos (a nivel de las Naciones Unidas) para limitar el uso de ciertas tecnologías en el campo de batalla. Un tratado que prohíba rotundamente las armas autónomas letales sería un buen comienzo; también serán necesarios acuerdos para regular el ciberespacio, especialmente acciones ofensivas llevadas a cabo por bots autónomos.
También es imperativo que se establezcan nuevas regulaciones comerciales. Las exportaciones ilimitadas de ciertas tecnologías pueden darles a los gobiernos herramientas poderosas para reprimir el disenso y aumentar radicalmente sus capacidades militares. Asimismo, todavía es necesario que pongamos mucho empeño en garantizar un campo de juego nivelado en la economía digital, inclusive mediante una tributación apropiada de esas actividades.
Estabilidad social. Como los líderes del G7 ya parecen reconocer, frente al posible riesgo que corre la estabilidad de las sociedades abiertas, a los países democráticos les debería interesar desarrollar una estrategia común para la regulación de la IA. Los gobiernos hoy están adquiriendo capacidades sin precedentes para generar consenso y manipular la opinión. Cuando se lo combina con sistemas de vigilancia masiva, el poder analítico de las herramientas de IA avanzadas puede crear leviatanes tecnológicos: estados y corporaciones omniscientes con el poder de forjar el comportamiento de los ciudadanos y reprimirlo, si fuera necesario, fronteras adentro y entre fronteras. Es importante no solo respaldar los esfuerzos de la Unesco por crear un marco global para la ética de la IA, sino también presionar por una Carta de Derechos Digitales global.
El foco temático de la diplomacia tecnológica implica la necesidad de nuevas estrategias de compromiso con las potencias emergentes. Por ejemplo, la manera en que las economías occidentales aborden sus alianzas con India, la mayor democracia del mundo podría definir el éxito o el fracaso de este tipo de diplomacia. La economía de India probablemente sea la tercera más grande del mundo (después de Estados Unidos y China) en 2028. Su crecimiento ha sido extraordinario, en gran medida como resultado de sus proezas en el terreno de la tecnología de la información y la economía digital. Más concretamente, las opiniones de India sobre las tecnologías emergentes son de enorme importancia. De qué manera, India regule y respalde los avances en IA determinará el modo en que miles de millones de personas la usen.
Interactuar con India es una prioridad tanto para Estados Unidos como para la Unión Europea, como quedó en evidencia en la reciente Iniciativa de Estados Unidos e India para las Tecnologías Críticas y Emergentes (iCET) y el Consejo de Comercio y Tecnología UE-India, que se reunió en Bruselas este mes. Pero para garantizar que estos esfuerzos lleguen a buen puerto hará falta una adaptación razonable de los contextos e intereses culturales y económicos. Apreciar esos matices nos ayudará a alcanzar un futuro digital próspero y seguro. La alternativa es un sálvese quien pueda generado por IA.■
MANUEL MUÑIZ: es rector de la Universidad ie y decano de la escuela de Política, economía y asuntos globales de ie. SAMIR SARAN: es presidente de la observer Research Foundation. © Project Syndicate 1995–2023
El foco temático de la diplomacia tecnológica implica la necesidad de nuevas estrategias de compromiso con las potencias emergentes