«El ejecutivo racional que nunca existió» es el tema que propone Eduardo Moraga Ortega, Business Intelligence and Data Science Consultant
Partamos de un supuesto —hasta cierto punto bastante instalado en la cultura organizacional—: que el ejecutivo que decide bien es el que logra separar los datos de las emociones. La versión moderna de ese supuesto tiene nombre y apellido: inteligencia artificial. La promesa es seductora en su simpleza: saca al humano del proceso, ponle un algoritmo en el medio y las decisiones serán más limpias, más rápidas y —hasta cierto punto— más justas.
El problema es que ese ejecutivo perfectamente racional nunca existió. Y la evidencia acumulada que se ha venido mostrando sugiere que la IA que lo iba a reemplazar tampoco es lo que prometía.
Un estudio publicado este año documenta algo que muchos sospechaban, pero que tenía poco respaldo empírico: cuando los humanos interactúan con sistemas de inteligencia artificial, no dejan sus heurísticas en casa. Las aplican con la misma consistencia con que las aplican a todo lo demás. Le atribuyen intenciones a los modelos. Los evalúan en función de si confirman sus creencias previas. Confían más en una respuesta que viene envuelta en lenguaje técnico, aunque el contenido sea idéntico a una respuesta simple. Y ajustan su propio comportamiento no en función de lo que la IA dice que es correcto, sino de lo que la IA parece preferir.
Vea también: El factor «Veci»: la revolución humana del hard discount
Este último punto merece detenerse. Uno de los hallazgos del estudio es que los usuarios tienden a alinearse con las preferencias percibidas del sistema. Si el modelo parece «preferir» una opción —por el tono, el énfasis o el orden en que presenta las alternativas—, el usuario frecuentemente converge hacia esa opción, aunque no haya recibido una recomendación explícita. A esto lo llaman conformidad heurística: es básicamente el efecto de autoridad que Kahneman describió décadas atrás, ahora proyectado sobre una interfaz de chat.
¿Qué tiene que ver esto con el retail? Todo. Las herramientas de IA que se están adoptando masivamente en la industria —planificación de demanda, gestión de categorías, pricing dinámico, análisis de comportamiento del consumidor— no operan en el vacío. Las operan, y operarán el día de mañana, personas. Y esas personas traen consigo todo el equipaje conductual que la economía del comportamiento ha catalogado con paciencia durante cincuenta años.
Estimado lector, no te estoy sugiriendo que desconfíes de la tecnología. Te estoy dando un pequeño empujón hacia algo más difícil: que desconfíes de la manera en que la usas.
Thaler —a quien rindo tributo con eso del «pequeño empujón»— tiene una idea que aparece en varios de sus trabajos y que es brutalmente aplicable aquí: los sistemas bien diseñados deben tener en cuenta que los usuarios son humanos, no agentes racionales. Un buen sistema de IA para decisiones de negocio no debería asumir que quien lo usa va a leer el output con ojo crítico y calibrado. Debería estar diseñado sabiendo que el usuario va a buscar confirmación, que va a sobreindexar la primera información que recibe y que va a confundir fluidez con corrección.
En la práctica, un gerente de categoría que confía ciegamente en la recomendación de un sistema de IA de fijación de precios no está tomando una decisión racional. Está tercerizando la responsabilidad de la decisión a un sistema que, a su vez, fue entrenado con datos que reflejan decisiones previas cargadas de los mismos sesgos humanos. Dicho de otra manera: sesgos sobre sesgos, pero con la tranquilidad de creer que «el computador lo dijo».
Taleb le llama «fragilidad oculta» a los sistemas que parecen robustos porque nunca han sido realmente estresados. La adopción acrítica de IA en procesos de decisión críticos podría ser exactamente eso: sistemas que funcionan bien en condiciones normales, pero que en momentos de estrés —un cambio de mercado abrupto, una crisis de categoría o un comportamiento anómalo del consumidor— magnifican los errores porque nadie cultivó el músculo de cuestionar el output.
Vea también: En este podcast de Café con Estrategia: Fidelizar es vender
El ejecutivo racional fue siempre una ficción conveniente. La pregunta real no era si existía, sino si valía la pena sostener la ficción porque hacía más manejable el mundo. Con la IA, la misma ficción se recicla con nuevo packaging: ahora no es el ejecutivo el que es racional, es el sistema. Y eso libera al ejecutivo de la incomodidad de tener que serlo.
Lo que nadie ha preguntado todavía con suficiente seriedad es esto: si el sistema hereda nuestros sesgos y además los amplifica, ¿de dónde viene exactamente la ventaja? La pregunta, como veremos en la segunda parte, se complica aún más cuando uno mira con cuidado de qué está hecho ese «criterio experto» que el sistema supuestamente viene a mejorar.
