100% correcto, o por qué la IA no es infalible, afortunadamente

“Cuando creíamos que teníamos todas las respuestas, de pronto cambiaron todas las preguntas”

Mario Benedetti

Una de las preguntas recurrentes que me hacen cuando en los últimos meses explico el impacto de las herramientas de IA generativa a equipos de negocio es: “¿Pero y cómo sabemos que la respuesta del algoritmo es 100% correcta?”.

Parece una inocente pregunta, pero representa una piedra angular del reto de #adopción y gestión del cambio en el contexto de la inteligencia artificial. En efecto, esa pregunta encierra varias creencias, entre otras:

⭐️ Que vivimos en un mundo determinista, donde A+B=C y en el cual, siguiendo una receta, obtendré resultados siempre idénticos.

⭐️ Que nos importan más las respuestas que las preguntas.

⭐️ Que existe alguna forma certera de determinar si algo es correcto ó incorrecto.

⭐️ Que asumimos que la máquina debe de ser infalible, cuando todos aceptamos que el humano no lo es.

A las empresas no nos gusta la incertidumbre

Recuerdo mi primera experiencia laboral en 3M, donde había un Director obsesionado por entender por qué caían las ventas de un producto industrial. Dediqué meses a hacer correlaciones entre variables hasta generar una serie de hipótesis sobre cuáles podrían ser los motivos. Cuando se las presenté, él me preguntaba insistentemente: “Pero Alberto, ¿estás 100% seguro de que esas son las verdaderas razones?”. El problema es que podía dedicar muchos más meses a trazar nuevas conjeturas, pero jamás tendría una verdadera certeza, y lo más importante de todo, si hubiera sido capaz de llegar a un índice de incertidumbre menor, tampoco hubiéramos tomado medidas muy diferentes de las que yo proponía tomar en aquel momento.

Aquella fue mi primera “caída del caballo” sobre lo mal que nos solemos manejar en entornos de incertidumbre en entornos profesionales y la importancia de promover otros mecanismos en la toma de decisiones más parecidos a como aprenden los niños en entornos de gran variabilidad:

1.      Probar

2.      Observar

3.      Medir

4.      Ajustar

5.      Volver a probar

6.      … y así sucesivamente

Liminalidad e Innovación

Cuanto más esté pegada nuestra actividad empresarial a las Operaciones, al Project Finance, a la gestión de riesgo,… mayores índices de certidumbre necesitamos en nuestro día a día. En esos casos, la IA Generativa necesita operar en entornos con guardarraíles que permitan un control mayor de los corpus de conocimiento con los que trabajan y de la variabilidad de las respuestas.

Sin embargo, si nuestra actividad empresarial requiere de Innovación y explorar y crear el futuro, necesitamos operar con otros parámetros.

Como decía J.R.Tolkien: “no todos los que vagan están perdidos”. Hay multitud de trabajos que requieren de una mentalidad de exploración continua, de un “espíritu de boyscout” como dice Julia Galef en su muy recomendable libro homónimo. Y es que si un “boyscout” es especialmente efectivo resolviendo retos en entornos de incertidumbre, no es solo por sus conocimientos o por ser más listo, sino por observar el mundo con una mentalidad curiosa e identificar opcionalidad por todas partes.

El reto, es que debemos de ser capaces de “desprogramar” nuestras mentes, acostumbradas desde la educación básica a que las preguntas nos venían dadas por el maestro y nuestra labor era determinar y responder con la única respuesta correcta.

El reto, como siempre, está en las transiciones

Mi padre, de formación arquitecto, siempre me recuerda que las goteras en un edificio nunca ocurren en una superficie continua sino en las juntas. Del mismo modo, el óxido aparece en los puntos de soldadura y los materiales se resquebrajan por las uniones. Y es que la gestión empresarial es especialmente complicada en espacios liminales, aquellos a caballo entre un pasado que se desmorona y un futuro que está por construir y muy impredecible.

De mi época de ingeniero estudiando dinámica de fluidos siempre recuerdo la enorme dificultad al pasar de “régimen continuo” a “régimen turbulento”. O del temido “golpe de ariete” o sobrecarga de presión que sufre una tubería en su interior cuando una columna de líquido se mueve dentro de ella con cierta inercia y, de repente, ese flujo cesa de forma repentina.

La turbulencia, genera incertidumbre e impredecibilidad, y en esas estamos.

Y en esto que empezamos a trabajar con Inteligencias Artificiales

Aunque la IA lleva con nosotros ya décadas, en los últimos dos años la democratización de las herramientas de IA generativa ha introducido un nuevo factor en nuestra ecuación como gestores empresariales.

Si ya era complejo manejar equipos humanos, con el grado de incertidumbre que la gestión de personas incorpora, llegan las “máquinas” y tenemos que reconfigurar el tablero.

En primer lugar, debemos de definir qué rol les asignamos y cuál pasa a ser el nuestro. A partir de ahí, surgen infinidad de preguntas, entre otras:

⭐️ ¿Con qué reglas de negocio configuramos el algoritmo?

⭐️ ¿Cómo incorporamos el conocimiento de compañía que reside en las personas en esas reglas de negocio?

⭐️ ¿Quién tiene la responsabilidad sobre las decisiones que el algoritmo tome?

⭐️ ¿Cómo preparamos a las organizaciones para trabajar con IAs?

Bueno, pero es sencillo, porque la IA introduce predictibilidad y órden

Algún incauto podía pensar que el algoritmo nos aporta mayor certidumbre, al fin y al cabo ¿no era gestionar personas lo que introducía variabilidad a la labor del manager?

Sin embargo, el funcionamiento de la Inteligencia Artificial Generativa no es determinista sino probabilista. Ante una misma pregunta, y debido a su diseño aprovechando arquitecturas de redes neuronales, la respuesta nunca va a ser exactamente la misma.

De ahí las preocupaciones de los equipos cuando les hablo de cómo tienen que trabajar con el algoritmo. Cuando esperaban que por fin su labor cómo managers iba a ser más predecible porque ante un estímulo de entrada, la salida iba a ser siempre la misma, ven que no es así.

Congreso anual DEC

Afortunadamente, la transformación que aporta la IA generativa no es determinista

Un viejo proverbio chino dice algo así como “ojalá vivas tiempos interesantes”, ante lo que yo reformulo: “ojalá vivas tiempos probabilistas”.

Creo sinceramente que la oportunidad que ofrece la creación de un binomio humano + máquina nos mete de lleno en el mundo de la creación y en un nuevo florecimiento de la labor del manager.

Es cierto que supone una amenaza para todos aquellos trabajadores del conocimiento que, aunque se creían “white collar”, no dejaban de ser un “blue collar” pero de oficina. Y es que apretar tornillos u ordenar documentos no dejan de ser actividades conceptualmente muy próximas.

Sin embargo, es precisamente la impredecibilidad del algoritmo lo que hace que siga existiendo, como dice Javier G. Recuenco, el “último santuario humano”. De otra forma, si toda nuestra labor como gestores fuera determinista y replicable, seríamos absolutamente prescindibles.

En términos muy parecidos se desarrolló esta semana el debate en el congreso de los amigos de la Asociación DEC para el Desarrollo de la Experiencia de Cliente en donde tuve el placer de intervenir invitado por Nanes Martínez-Arroyo , Accenture y Avanade. ¿Cuál es el rol del humano y cuál el del algoritmo cuando diseñamos y ejecutamos procesos de operaciones de cliente en nuestras organizaciones?

Es la era de la Co-Inteligencia

Pero volvamos por un momento a mis sesiones con los equipos promoviendo el uso de la IA Generativa.

Creo que un reto fundamental es hacerles conscientes de que la IA no sustituye al humano. Que de lo que se trata es de establecer procesos de trabajo híbrido humano-máquina en los que cada uno aporta una serie de capacidades.

Todas las actividades relacionadas con el procesamiento de información podrán quedar relegadas al algoritmo, que lo hace de forma mucho más exhaustiva y eficaz. Y aquello relacionado con contextualizar el trabajo, darle sentido y definir una hoja de ruta, caerá del lado del humano.

En términos prácticos, yo recomiendo a los equipos a la hora de trabajar con IA:

⭐️ Definir el objetivo, el contexto, las fuentes de información y el formato de salida.

⭐️ No delegar en el algoritmo la responsabilidad sobre los resultados que nos proporciona.

⭐️ Entender que la IA generativa es un “copiloto”, y que nosotros los humanos debemos seguir al mando como “pilotos”.

⭐️ Comprender que el algoritmo no es “determinista” y que ante pequeños cambios de contexto o de la información de entrada, ofrece resultados ciertamente diferentes.

⭐️ Utilizar flujos de retroalimentación con el algoritmo, contribuyendo a su aprendizaje en aquellas herramientas donde esto es posible.

⭐️ Ofrecer a la IA información de entrada completa, exhaustiva y relevante.

En el fondo, la oportunidad que la IA nos brinda es extraordinaria. Si todo fuera cuestión de seguir un manual, sería aburridísimo. Sin embargo, tenemos la oportunidad de delegar en ella aquellas tareas de menor valor añadido y elevarnos y florecer en aquellas capas de conocimiento en las que la componente creativa y de darle sentido a las cosas es relevante.

Ethan Mollick, profesor de The Wharton School y co-director del laboratorio de IA generativa , nos cuenta en su reciente libro “Co-Inteligencia” cómo la democratización de la IA a partir de Noviembre de 2022 y la expansión de los modelos de propósito general, nos obliga a desarrollar la capacidad de sentirnos cómodos en un mundo de colaboración humano-máquina.

Comparto su optimismo y su apuesta por no perder la identidad humana. Dejemos a la máquina ayudarnos en resolver preguntas, y centrémonos en determinar qué preguntas son relevantes resolver.

No nos preocupemos tanto de si el resultado del algoritmo es o no 100% correcto, y apoyémonos en su resultando aportando criterio y sentido común. No vivimos en un mundo determinista sino probabilista, y habrá que estar cómodo con el riesgo y la incertidumbre.

Bienvenidos a la era de las capacidades aumentadas.

El poder de las preguntas

I keep six honest serving-men (They taught me all I knew). Their names are What and Why and When and How and Where and Who. I send them over land and sea, I send them East and West; But after they have worked for me, I give them all a rest.

Rudyard Kipling

Últimamente no puedo evitar el reflexionar acerca del desarrollo de negocio a medida que veo a mi hija Paula avanzar de bebé a niña.

Si eres padre entenderás de lo que te hablo. De repente entra en tu vida un personajillo de corta estatura pero enorme inteligencia que poco a poco trata de establecer relaciones a largo plazo con una gran variedad de «clientes» y «proveedores», negociando, vendiendo, comprando, intercambiando,…

Una de las herramientas más poderosas que tienen los bebés a la hora de aprender es la que tratábamos en el post «Qué hacer cuando no sabes qué hacer«: Actuar-Aprender-Ajustar-Construir-Actuar.

Cuando siguen madurando, hay una segunda herramienta que los niños manejan a la perfección y es la sistemática pregunta: «¿y por qué…». Una vez les has contestado y crees que vas a disfrutar de un rato de tranquilidad, el niño vuelve a la carga con otro «¿y por qué…?» que cuestiona la respuesta anterior. Ese proceso iterativo se prolonga lo que dure tu paciencia o la curiosidad innata del niño. Te aviso de que frecuentemente es lo segundo.

Lo que hacen los niños es ejecutar a conciencia la «Técnica de las 5 preguntas (5 whys)» que popularizó el fundador de Toyota, Sakichi Toyoda. Ante cualquier problema Toyoda recomendaba hacerse la pregunta «¿por qué ha ocurrido?». Al encontrar la respuesta, se volvía a hacer la pregunta de forma que se podía ir remontando en una cadena de causa-efecto hasta llegar a la causa raíz del problema. Normalmente se necesitaban al menos 5 saltos hacia atrás para llegar a identificar el origen del problema. El objetivo es además aterrizar en causas raíces que constituyan un fallo en un proceso que esté bajo nuestro control (no valen factores externos sobre los que poco podamos actuar). Una forma sencilla de documentar esos viajes a lo largo de árboles de causa-efecto es mediante la utilización de los diagramas Ishikawa ó de «espina de pez».

A pesar de la potencia de las «5 preguntas» el método tiene sus detractores ya que:

1. A menudo es fácil caer en la falacia de la supuesta causalidad entre dos fenómenos cuando tan solo están relacionados por una correlación.

2. La dificultad de detectar causas más allá del campo del conocimiento propio.

3. Frecuentemente cuando falla algo lo hace por un cúmulo de motivos y no una causa aislada (ej: accidentes aéreos).

4. Dos personas diferentes que enfrenten las «5 preguntas» a un mismo problema pueden llegar a causas raíces independientes, lo que vendría a desvirtuar la solidez de la técnica.

En mi vida profesional tuve ocasión de enfrentarme a un verdadero «Terminator» de las preguntas. Un enorme Holandés de nombre Hermann, era apodado en nuestra División como «Hermann why» debido a su infatigable entusiasmo por someter a sus interlocutores a un exhaustivo «tercer grado». Lo cierto es que llegaba a ser irritante para la conversación social, pero muy efectivo para discutir sobre un negocio.

Mi admirado Conor Neill, profesor del IESE y autor de un magnífico blog sobre comunicación, habla en este post sobre el poder de las buenas preguntas. El problema es que desde pequeñitos la educación formal nos insiste en que lo importante es conocer las respuestas, cuando tal y como dice Verne Harnish lo importante es saber formular bien las preguntas: “todos somos buenos en encontrar respuestas. Los mejores líderes ayudan a encontrar las buenas preguntas”.

En el desarrollo de negocio ocurre exactamente lo mismo, frecuentemente es más fructífero dedicarle un tiempo mayor a las preguntas que a las respuestas. Si no lo hacemos, caeremos en la indulgencia y no avanzaremos en el desarrollo de nuestro producto o servicio. Las buenas prácticas son estupendas, pero aprenderemos más haciendo un “post-mortem” a los lanzamientos que fracasaron.

Para cerrar y demostraros que los buenos gestores se cuestionan absolutamente todo, os dejo con Mourinho y su ya célebre «po ké«. Yo lo reconozco, tampoco entendí nunca el color de los Sugus de piña.