Las empresas y la regulación de la IA
“Todo lo que quiero saber es dónde voy a morir para no ir nunca allí”. Esta frase atribuida al famoso Charlie Munger, exitoso socio de Warren Buffett y vicepresidente de Berkshire Hathaway, ilustra que muchas veces sobrevivir hasta llegar el éxito se basa, en parte, en evitar errores obvios o de bulto pero sorprendentemente habituales y muy dañinos.
Sería un error empresarial notable dar la espalda a las oportunidades de la inteligencia artificial (IA) pero es una ingenuidad temeraria lanzarse a sus brazos sin pensar en cómo reducir, eliminar, trasladar o aceptar los riesgos que su uso profesional implica. Hace años que las consultoras tecnológicas advierten contra el empleo de la IA en el ámbito empresarial sin dicha gestión de riesgos. Apuntan tanto a riesgos financieros (por ejemplo, las IA regulando ciertos ámbitos de la tesorería no siempre son capaces de reaccionar oportunamente ante eventos imprevisibles), reputacionales (toma de decisiones con impacto en humanos que no siempre son fácilmente justificables) o de resultados (si la información que se ha aportado a la IA para “entrenarla” es incompleta o está “viciada” puede generar resultados sesgados. (Por ejemplo, en procesos de selección el número de mujeres programadoras contratadas por IA inicialmente era cero). Afortunadamente, la tecnología ya dispone de mecanismos para afrontarlos aunque los retos legales asociados no cuentan con soluciones únicamente técnicas.
En este sentido, la amenaza más relevantes de usar la IA sin gestión de riesgos es que el personal emplee herramientas de IA, sin avisar ni solicitar permiso, para realizar funciones laborales de forma más rápida y eficaz. Esta problemática quedó patente hace un mes cuando The Economist publicó que una conocida tecnológica tuvo un problema de confidencialidad porque, hasta en tres ocasiones, su personal utilizó un conocido chatbot de IA comprometiendo secretos de empresa (desde el código fuente secreto de un software, hasta protocolos técnicos o actas de reuniones). La tecnológica reaccionó prohibiendo el uso de dicha tecnología a su personal.
Dicho chatbot (que sufrió una importante brecha de seguridad respecto a datos personales de sus usuarios) fue prohibido y bloqueado temporalmente en Italia hasta que solucionara problemas de protección de datos, mientras que la Agencia Española de Protección de Datos ha iniciado de oficio una investigación al respecto y la Autoritat Catalana de Protecció de Dades ha desaconsejado su uso. Asimismo, no es descartable que una empresa pueda ser sancionada por las autoridades por el uso por parte de su plantilla de dichas tecnologías IA con datos personales, si la tecnología no ofrece suficientes garantías de privacidad. Si los diferentes escenarios tratados con anterioridad no convencen suficientemente a las empresas a favor de la regulación de la IA es necesario apuntar que, en España, es ya obligatoria por ley.
Datos Una empresa podría ser sancionada por las autoridades si su plantilla emplea la IA sin garantías de privacidad