Sólo un debate continuo y humanizado puede regular la Inteligencia Artificial
La Eurocámara ha dado un firme respaldo a la ley de IA, marcando un hito en la regulación de esta tecnología. Este reglamento se aprobó por una gran mayoría el pasado miércoles 13 de marzo en Estrasburgo.
La nueva norma, en base a niveles de riesgos, prohíbe ciertas aplicaciones de IA que atentan contra los derechos, ofreciendo protección frente a prácticas invasivas y potencialmente perjudiciales. Se prohíben, por ejemplo, los sistemas de categorización biométrica basados en características sensibles y la captura indiscriminada de imágenes faciales, así como el reconocimiento de emociones en el lugar de trabajo y en las escuelas. Estas medidas aseguran un uso ético y responsable de la IA, desde un enfoque preventivo.
Además, el uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad se regula con cautela, garantizando su empleo sólo en situaciones específicas.
Asimismo, se establecen obligaciones claras para los sistemas de IA de alto riesgo, con el objetivo de mitigar cualquier impacto negativo en la salud, la seguridad, el ambiente, la democracia y los derechos fundamentales. Se fomenta la transparencia y la rendición de cuentas, brindando a los ciudadanos el derecho a presentar reclamaciones y recibir explicaciones sobre las decisiones basadas en IA que afecten sus derechos.
Estos sistemas abarcan una variedad de sectores críticos, como infraestructuras esenciales, educación, empleo, servicios públicos y privados vitales, como la atención médica, el sistema financiero, así como aplicaciones en las fuerzas de seguridad, migración, gestión aduanera, justicia y procesos democráticos.
Para mitigar los riesgos asociados, estos sistemas deben someterse a evaluaciones rigurosas y contar con supervisión humana adecuada.
La UE prohibió ciertas aplicaciones de IA que atentan contra los derechos.
Los sistemas de IA de uso general y los modelos asociados deben cumplir con requisitos específicos de transparencia, además de adherirse a las leyes de derechos de autor de la UE. Se requiere que divulguen resúmenes detallados del contenido utilizado para su entrenamiento. Para aquellos modelos más avanzados, se imponen requisitos como la notificación de incidentes.
También, cualquier imagen, audio o video artificial o manipulado, conocido como “ultrafalsificaciones”, debe tener un etiquetado.
De igual forma, se deberán proporcionar a las pequeñas y medianas empresas, espacios controlados para pruebas y ensayos con sistemas expertos. Entre las y los especialistas que siguen este debate hay voces a favor y en contra.
Para los primeros, esta regulación es necesaria, ya que consideran que esta ley es central para abordar los desafíos éticos y de seguridad relacionados con la IA, y proporciona directrices claras para el desarrollo y uso responsable. En función de ello, se destaca el equilibrio entre innovación y protección.
Por último, toma relieve un nuevo modelo de gobernanza con la conformación de un panel asesor multidisciplinario.
Quienes desaprueban esta ley enfatizan sobre la complejidad de su implementación. Algunos expertos advierten sobre lo poco práctico de aplicar la ley, ya que entienden que requerirá colaboración entre
La Eurocámara marca el rumbo del debate mundial en el uso y aplicación de la IA.
gobiernos, empresas y la sociedad civil. Hay preocupaciones de que la regulación limite la innovación, la creatividad y la competitividad.
Sin embargo, debo destacar que la UE nuevamente marca el rumbo del debate mundial como es en el uso y aplicación de la IA, lo que inició con el dictado del Reglamento General de Protección de Datos Personales (RGPDP), en 2016.
El camino para arribar a la decisión que tomó la Eurocámara comenzó con el Libro Blanco de la IA, en 2020, donde se formuló un modelo de gestión de riesgos. Posteriormente, en abril de 2021, la Comisión Europea propuso el primer marco regulador.
Ahora, para la implementación de esta norma, la ley también debe ser adoptada formalmente por el Consejo de Europa.
La hoja de ruta hacia esta ley ha sido un proceso de deliberación para equilibrar la innovación con la protección de los derechos fundamentales y la seguridad.
Debemos considerar que la IA es un campo en constante evolución, con desafíos y oportunidades emergentes. Un debate duradero permite adaptar la regulación a medida que se desarrollan nuevas tecnologías y se descubren riesgos adicionales.
Bajo este contexto, Latinoamérica debe liderar la agenda regional en la materia, sin desatender las propias vulnerabilidades sociales y económicas.
La UE puede aprender de experiencias de otros lugares del mundo, adaptando su enfoque según las lecciones aprendidas. La flexibilidad es esencial para garantizar que la regulación no se vuelva obsoleta o rígida.
La constancia de que este tema siga dentro de la agenda de la UE, ha sido clave en esta regulación, lo que permite una permanente adaptación y una toma de decisión informada para abordar los desafíos y maximizar los beneficios de esta tecnología.