“Una decisión basada en IA siempre estará supervisada por un razonamiento humano”
Desde la consultora PwC trabajan con la inteligencia artificial desde dos vertientes. Por un lado, de manera interna para mejorar su trabajo en el día a día y, por otro lado, desarrollando casos de uso con sus clientes. Para mejorar sus procesos internos acaban de implementar un chat basado en inteligencia artificial que ayuda en la toma de decisiones en sus actividades.
Para ello, es necesario que los empleados de la compañía tengan una serie de conocimientos previos. “Para poder hacer uso de la tecnología es necesario el cumplimento de una formación obligatoria y la aceptación de unas estrictas Business Rules. El éxito de la utilización de la tecnología radica más en cómo hacemos las preguntas, en cómo realizamos la formulación del prompt, apuntó el socio líder de los sectores Telco, Media y Tecnología de Consulting en PwC. Desde el área de actividad de consultoría, Requena explicó que tienen muy presentes los riesgos que puede suponer el uso de inteligencia artificial a la hora de realizar determinados tipos de trabajos. “Por ejemplo, el uso de IA Generativa, está prohibido en todos los trabajos relacionados con la auditoría de cuentas. En los trabajos donde permitimos su uso, si usamos algún dato de cliente, nos aseguramos de que dicho uso se ajusta a sus expectativas. Limitamos muy bien y somos conocedores de los posibles riesgos. Sobre todo, lo que siempre obligamos es a que de una decisión basada en inteligencia artificial no esté supervisada por un razonamiento humano”, detalló el socio de PwC.
Uso muy controlado
Las ventajas que aporta la IA son innegables, pero Requena destaca la importancia de no perder de vista la regulación y el control. “Entendemos que ofrece una ventaja competitiva, eso es una realidad. Se trata de una herramienta que nos va a ayudar a mejorar en nuestro trabajo, pero hay que hacerlo con mucho control”, añadió.
Este control sirve, además de la protección del impacto en derechos y libertades, de posible freno a ese pensamiento extendido entre la sociedad ante el miedo a que esta tecnología acabe sustituyendo a la mano de obra en el futuro. “En todo caso, el uso de IA que tenga impacto de alto riesgo debe tener supervisión humana”, según indica el acta europea.
“Luego está también la racionalidad y el sentido común del caso de uso que utilices y el impacto que tiene en tu proceso de negocio. Pero sí es cierto que dejar una decisión importante en manos de una tecnología no supervisada es un riesgo que debes tener controlado”, explicó. Sobre la regulación que está ahora mismo encima de la mesa de la Unión Europea, Requena no cree que vaya a ser un freno en el potencial de esta tecnología.
“Hasta ahora la tecnología no impactaba tan directamente. En el momento en el que ese impacto puede tener relevancia en la vida de las personas sí es necesario tener la regulación más en cuenta. ¿Freno? Sí pero hay que ver lo positivo que es esa minimización del riesgo. Sin duda va a ser un reto adaptarse a los procesos basados en IA en producción con los requisitos de la UE”, apuntó.