El efecto Kahneman para la toma de decisión inteligente
El pensamiento crítico es una cualidad fundamental frente al avance de agentes conversacionales que parecen tener todas las respuestas.
La partida de una mente brillante suele dejarnos pensando acerca de su legado. Pero si hablamos de Daniel Kahneman, esta actitud reflexiva adquiere otra dimensión.
Este destacado psicólogo israelí fue la primera persona no economista distinguida con el Premio Nobel de Economía por su trabajo pionero a la hora de integrar descubrimientos de la psicología en las ciencias económicas, específicamente en lo que refiere al juicio humano y la toma de decisiones en entornos de incertidumbre.
En su obra más famosa, Pensar rápido, pensar despacio, difundió su teoría. Según ella, cualquier decisión que toma nuestra mente es el resultado de un proceso cognitivo que puede provenir de dos sistemas: uno rápido e intuitivo, guiado por las emociones (Sistema 1) o uno lento y deliberativo, dirigido por la razón (Sistema 2).
En pocas palabras, Kahneman sostuvo que para tomar decisiones simples o cotidianas (por ejemplo, qué comemos, qué decimos en conversaciones triviales, cómo nos vestimos, etcétera) solemos utilizar una parte de nuestra mente que está preparada para ello, pudiendo satisfacer los cuestionamientos habituales.
En cambio, para hacer frente a cuestiones importantes o trascendentes ponemos en marcha otro mecanismo más complejo, uno que tarda más en reaccionar pero que puede responder a situaciones críticas propias del ambiente laboral, afectivo, económico, etc.
Este marco teórico que, sin lugar a dudas, ofreció una nueva perspectiva para encarar los estudios de las neurociencias hoy adquiere especial relevancia porque permite enfocar de manera distinta nuestra relación con los sistemas inteligentes. Veamos.
Inicialmente, tenemos que dejar en claro que todos ellos, a través de sus redes neuronales, tratan de emular nuestro modelo de pensamiento para tomar una decisión: detectar, clasificar, segmentar, predecir, entre otros procesos. Lógicamente, lo hacen a una velocidad altamente superior a la nuestra pero no siguen el mismo proceso, ya que están desprovistos de memoria, emoción y experiencia. Por ejemplo, cuando CHATGPT redacta un libro, no está comprendiendo el significado de las palabras; solo asocia caracteres para formar un texto coherente; y cuando Midjourney crea la imagen del papa Francisco con una campera de nailon, desconoce el protocolo ceremonial, solo ejecuta una acción requerida.
Podríamos decir que los sistemas inteligentes solo trabajan por impulso, rápido y sin contextualización, como lo hacemos nosotros según el Sistema 1 descripto por Kahneman. En otras palabras: si tuviésemos que detenernos a pensar profundamente todas las decisiones que tomamos en un día, seguramente avanzaríamos con muchas menos cosas de las que hacemos. Es imposible la vida utilizando únicamente el Sistema 2, o complejo.
Por esta sencilla razón, utilizar IA nos convierte en seres más eficientes, pues encontramos en la tecnología un complemento perfecto para conservar esa energía y emplearla en situaciones críticas.
El problema surge cuando confiamos ciegamente en las respuestas de los algoritmos. Ese es el principal error al que estamos expuestos, no tanto por el contenido de la información aunque sea importante sino por la cantidad de sesgos y heurística que nos provocan.
Debemos ser conscientes de que cualquier inteligencia artificial tiene el potencial no solo de replicar sino incluso de perpetuar pensamientos impropios de esta época (por ejemplo, en relación con las diferencias de género, etnia o cuestiones sociales), pero que habitan en el colectivo y están presentes en la fuente de entrenamiento de estos sistemas.
Esto claramente alimenta nuestra tendencia a tomar decisiones a través de atajos, resolviendo rápidamente, casi instintivamente, aceptando respuestas sin una deliberación adecuada. La inherencia a la tecnología es entonces altamente dañina.
Sin embargo, esto no debe interpretarse como un callejón sin salida, sino como un camino de doble vía: la primera, desarrollada sobre la base del control que debemos mantener. Aunque no podamos modificar esta clase de sistemas, sí podemos controlar la conversación que con ellos sostenemos y evaluar críticamente las respuestas que nos ofrecen para potenciar nuestra racionalidad.
La segunda, establecida en la oportunidad de utilizar estos grandes modelos de lenguaje como un espejo para analizar nuestros propios sesgos o prejuicios, invitándonos a cuestionar no solo las respuestas que nos ofrecen, sino también las premisas que marcamos en nuestras interacciones y que mantenemos con el resto de las personas.
Con estas dos vías, visto así, no nos reducimos, sino que logramos una amplificación cognitiva para nada despreciable.
El legado de Kahneman es altamente valioso para avanzar sobre el uso responsable de la tecnología: hay que usarla como una herramienta, no como un sustituto de nuestro propio pensamiento (crítico). La era de la inteligencia aumentada (humana más artificial) está abierta y, en ella, la velocidad con la que pensamos y decidimos debe ser ponderada a cada momento.■