Riesgos de usar la IA contra crímenes
Las herramientas de combate al crimen impulsadas por
Las compañías están usando inteligencia artificial (IA) para prevenir y detectar todo, desde el rutinario robo por parte de los empleados, hasta el uso de información privilegiada. Muchos bancos y grandes organizaciones emplean IA para detectar y prevenir fraudes y lavado de dinero. Compañías de redes sociales usan el aprendizaje de las máquinas para bloquear contenidos ilícitos, como la pornografía infantil. Las empresas están experimentando constantemente con nuevas formas de usar la inteligencia artificial para un mejor manejo de riesgos y una detección de fraudes más rápida y responsiva, incluso para predecir y evitar crímenes.
Aunque la tecnología básica de la actualidad no es necesariamente revolucionaria, los algoritmos que utiliza y los resultados que produce sí lo son. Por ejemplo, los bancos han estado usando durante décadas sistemas de monitoreo de transacciones basados en reglas binarias predefinidas que requieren de revisar manualmente los resultados.
En contraste, las soluciones actuales de aprendizaje de las máquinas usan reglas predictivas, que automáticamente reconocen anomalías en los datos. Estos avanzados algoritmos pueden reducir significativamente el número de falsas alarmas, filtrando los casos que fueron detectados incorrectamente, y descubriendo otros que fueron omitidos usando las reglas convencionales.
Considerando la riqueza de datos disponibles en la actualidad, y las crecientes expectativas de los consumidores y las autoridades públicas en cuanto a proteger y administrar esos datos, muchas compañías han decidido que la IA es una de las pocas formas de seguir el ritmo de criminales cada vez más sofisticados. Hoy se espera que las compañías de redes sociales descubran y remuevan casi instantáneamente videos y mensajes de reclutamiento de terroristas. Con el tiempo, las herramientas de combate al crimen impulsadas por IA podrían convertirse en requisito para las grandes empresas.
Sin embargo, determinar si es que las soluciones de combate al crimen por IA se ajustan estratégicamente a una compañía depende de que los beneficios superen a los riesgos. Uno de estos riesgos es que a través de la IA pueden obtenerse conclusiones sesgadas con base en factores como la etnicidad, el género y la edad. Las compañías también pueden experimentar represalias de consumidores preocupados de que sus datos sean mal utilizados o explotados en una vigilancia más intensiva de sus registros, transacciones y comunicaciones, especialmente si se comparte con el gobierno.
Entonces, ¿cómo están evaluando las compañías líderes los beneficios y peligros de combatir el crimen y administrar riesgos con IA? A continuación, explicamos algunos de los pasos que están dando.
Ajuste estratégico
Los directivos deben entender en dónde el aprendizaje de las máquinas ya está haciendo una gran diferencia. Los bancos, por ejemplo, están deteniendo los crímenes financieros en forma mucho más rápida y económica que antes, usando IA para automatizar procesos y conducir análisis de “aprendizaje profundo”. Incluso aunque los bancos ahora presentan 20 veces más reportes de actividad sospechosa vinculada a lavado de dinero que en 2012, las herramientas de IA les han permitido ser más eficientes. Ello se debe a que las falsas alarmas han caído a la mitad gracias a la IA, y porque muchos bancos ahora pueden automatizar las labores humanas de rutina en la evaluación de documentos.
Las herramientas de IA también permite a las empresas encontrar patrones sospechosos o relaciones invisibles.
El siguiente paso consiste en revisar hasta qué punto los consumidores y las autoridades gubernamentales esperarán que la compañía encabece a su industria.
Riesgos internos
El manejo de riesgos y detección de crímenes con IA no debe realizarse aisladamente. Hacer back-testing con modelos más simples puede ayudar a los bancos a limitar el impacto de conclusiones potencialmente inexplicables obtenidas por la IA, especialmente si hay un evento desconocido, para el que el modelo no ha sido entrenado.
Por ejemplo, los bancos usan inteligencia artificial para monitorear transacciones y reducir el número de falsas alarmas que ocurren al detectar posibles transacciones irregulares, como aquellas involucradas en el lavado de dinero para propósitos criminales. Estos esfuerzos son back-tested en comparación de modelos más simples, basados en reglas, para identificar problemas potenciales. Un modelo de IA podría omitir erróneamente una gran transacción de lavado de dinero que normalmente activaría una alerta en un sistema basado en reglas, si es que el modelo de IA determina –con base en datos sesgados– que las grandes transacciones hechas por consumidores que residen en barrios acaudalados no ameritan un monitoreo tan estricto como las de quienes viven en áreas menos prósperas.
Lo más importante, los directivos deberían evaluar si los análisis de datos de su compañía pueden manejar herramientas complejas de IA. De no ser así, necesitan desarrollar las suficientes capacidades internas de análisis.
Riesgos externos
El mayor uso de herramientas de IA para prevenir crímenes también puede ocasionar una cascada de riesgos externos en formas inesperadas. Hay multitud de formas en las que una compañía podría perder su credibilidad ante el público, reguladores y otras partes interesadas; por ejemplo, si el sistema de IA identifica erróneamente a personas como “sospechosas” o “criminales” a causa de un prejuicio racial involuntariamente integrado en el sistema.
Otro riesgo es que los criminales podrían recurrir a medidas más extremas e incluso violentas para superar a la IA. Los consumidores podrían moverse a entidades menos monitoreadas fuera de industrias reguladas.
Para evitar que esto suceda, las compañías necesitan crear y probar una variedad de escenarios resultantes del seguimiento de crímenes con IA. Con resultados producidos a través de análisis de escenarios, los directivos pueden ayudar a altos ejecutivos y miembros de las juntas directivas a decidir qué tan cómodos están usando combate al crimen con IA.
La IA es una de las pocas formas de seguir el ritmo de los criminales.