Transparencia trágica

Detrás de la automatización y la inteligencia artificial está la economía. La primera procura llevar a cabo procesos repetitivos sin necesidad de intervención humana, salvo labores de supervisión y control. Y la segunda persigue introducir dispositivos capaces de desempeñar nuevas tareas, asociar datos, evaluar experiencias y adaptarse a situaciones cambiantes. Lo que ambas tienen en común es el propósito de reducir costos. En el hogar, esos costos se manifiestan en tareas tales como limpieza, abastecimiento y vigilancia. En la producción, hay costos que se derivan de errores, enfermedades, vacaciones, entrenamientos y reemplazos del personal.

Un problema se perfila en el horizonte, relacionado con la capacidad de los operarios, tanto en el hogar como en la producción, para manejar aparatos y equipos de creciente complejidad y sofisticación. No se quiere que haya que estar asistiendo a seminarios o cursos universitarios, o estudiando manuales kilométricos, para poder lidiar con esos sistemas. Y por esa

razón se desea que los procedimientos sean simples, lo más transparentes posible para los usuarios.

Según algunos analistas, esa búsqueda de transparencia puede haber desembocado en tragedia. Declaraciones al efecto señalan que los sistemas electrónicos del avión Boeing 737 MAX, involucrado en dos accidentes con gran número de víctimas mortales, fueron diseñados para actuar con autonomía en función de los datos suplidos por indicadores de altura, velocidad, ángulo de vuelo y otros factores. El objetivo era minimizar el entrenamiento en simuladores requerido para que las tripulaciones pudieran ser transferidas a la nueva aeronave, reduciendo de ese modo los costos de operación de las aerolíneas. Pero ante informaciones falseadas por desperfectos de los indicadores, un sistema destinado a prevenir la pérdida de sustentación de las aeronaves las condujo hacia la catástrofe, sin que los pilotos supieran cómo responder.