Decía el biólogo americano Edward Wilson que el gran reto de la humanidad es que “somos seres que arrastramos una gestión de las emociones propia del Paleolítico, con unas instituciones adecuadas para el Medievo, y que sin embargo disponemos de tecnología digna de dioses”.
Recordaba esta semana aquella frase, que utilizo a menudo en sesiones de formación sobre #GestiónDelCambio, en el ámbito de la celebración de la gala de los Premios CIONET que reúnen las iniciativas más destacadas de la comunidad tecnológica y #digital.
Y es que en esta edición hemos tenido la gran fortuna de ser finalistas en la categoría de “PEOPLE, MODEL ORGANIZATION & FUTURE OF WORK”, por nuestro proyecto de #adopción de Microsoft Copilot en toda la organización.
Me alegra especialmente el que el jurado reconociera la importancia de la #tecnología centrada en las personas, aportando valor desde el caso de uso y las necesidades en este caso del #empleado.
En un mundo en el que debemos centrarnos en las capacidades aumentadas y las #cointeligencias, ver el binomio Personas + Tecnología tan presente en los proyectos presentados en la edición de este año, resultaba alentador.
Motivo de orgullo especial ha sido el celebrar con el resto de colegas el éxito de los galardones a Ferrovial en cuatro categorías:
💎 Best company of the year 🌄 Best green IT project: Smart grid management platform 🚀 Best digital channel project: Infraverse 🏆 Best CTO of the year: Laura Garrido (magnífica profesional y mejor persona)
Muchas gracias a CIONET, a los partners (Microsoft y Accenture) que nos ayudáis en este viaje y a todos los que día a día abrazan la tecnología desde el propósito y el valor para el empleado 👩 👱.
Estás cruzando el umbral de la sala e inmediatamente lo intuyes. La reunión va a ir rodada o va a ser un auténtico calvario. No sabes muy bien por qué, pero tu “sentido arácnido” te indica el nivel de energía de esa habitación y las personas que allí se encuentran…
Ayer tuve de nuevo el enorme placer de dar una sesión sobre Gestión del Cambio en ISDI, en otra mañana de sábado de esas maravillosas en las que peloteas ideas con profesionales de primer nivel y de las de “cuando uno enseña, dos aprenden”.
Ley de Ohm
¿Hay algún Ingeniero en la sala?
Se reían los alumnos cuando les preguntaba si había algún Ingeniero Industrial en la sala que nos recordara la Ley de Ohm. Y es que suelo utilizar la metáfora de la Gestión del Cambio como un circuito eléctrico, donde la intensidad de corriente eléctrica que circula (volumen del cambio que podemos impulsar en la Organización) es directamente proporcional al voltaje de la batería (impulso que los agentes de cambio le dan al proyecto) e inversamente proporcional a las resistencias (los que no desean cambiar nada y tratan de boicotearlo).
Cada vez estoy más convencido de que la Gestión del Cambio es la gestión de la energía de una organización. Tiene que ver con la habilidad con la que modulas la energía en esa sala a la que entras y donde se están tomando decisiones de calado. Está relacionado con cómo comunicas y cómo haces sentir a los que reciben la información, o de si consigues que un equipo se sienta cabeza tractora o se posicione como vagón de cola y quede pasivamente a remolque.
Richard Thaler
Un pequeño empujoncito
La tarde del viernes pude asistir, invitado amablemente por Calypsa Padon, al diálogo con el maestro Richard Thaler en el marco de las ponencias sobre #BehavioralScience que organizaban los amigos de BeWay Consulting.
Thaler, que estuvo deliciosamente cercano, explicaba cómo surgió su teoría de los “empujoncitos” (#nudges) como mecanismos para impulsar la toma de decisiones en los individuos y que le llevó a recibir el Nobel de Economía en 2017. Si no has leído su libro, te lo recomiendo encarecidamente como una de las referencias fundamentales en ciencias del comportamiento.
Lo interesante del asunto es que por primera vez escuché a Thaler hablar del “#sludge”, que él definía como el antagonista del “nudge”, y que consiste en las barreras, la burocracia, las dificultades absurdas que a menudo caracterizan los procesos que diseñamos. Es ese ruido y gasto energético que te lleva a la desesperación y al agotamiento cuando estás realizando una tarea absurda, penosa ó mal diseñada.
Revisitando herramientas de mi época diseñando servicios
Recordaba ayer en clase la sesión del día anterior con Thaler y me planteaba si acaso los que nos dedicamos a la Gestión del Cambio no tenemos como principal responsabilidad el asegurarnos de diseñar cauces de ríos limpios por los que puedan discurrir los proyectos de impacto y que potencien el consumo eficiente de los recursos y de la energía de la organización.
⭐️ Provocando impulsos o “empujoncitos” y recuperando herramientas del “Pensamiento de Diseño” como la #PropuestaDeValor a partir de las necesidades de nuestros clientes.
⭐️ Reduciendo los sumideros de energía, recuperando conceptos del “Lean Manufacturing” como la eliminación de la #muda ó desperdicio.
⭐️ Simplificando los procesos apoyados en conceptos del “Agilismo” como el entendimiento y colaboración entre individuos, por encima de tortuosos procesos y herramientas.
Gestionando en definitiva la energía de la organización desde el sentido común.
Subir la canica y generar opcionalidad
Subiendo de nuevo la canica
¿Y es que acaso no es parte de nuestro rol como gestores de cambio, el asegurarnos de que la canica discurre por el camino adecuado? Y como en aquel juego al que jugábamos de pequeñitos, si vemos que la bola se encañona por donde no queremos, volverla a subir y reconducirla generando #opcionalidad y nuevos caminos. Transformando energía potencial en cinética, en acción, en movimiento.
Para ello, debemos rodearnos continuamente de personas que nos reten intelectualmente, que nos muestren nuevas opciones, que conversar con ellos sea como abrir la ventana y oxigenar la habitación. Y en esta semana que ahora acaba tres han sido las personas que me han aportado esa energía:
👉 Calypsa Dawn Padon, un ejemplo de cómo hibridar en el mundo de la empresa, la sensibilidad y la mirada de las humanidades y las ciencias del comportamiento.
👉 Fernando Garcia-Quismondo (高安洋), un referente a la hora de explorar nuevos caminos y conectar puntos, siempre con la pregunta como herramienta “abrelatas” para llevarte a otros territorios y con el que compartí en vivo y en directo la admiración por Thaler.
👉 Adrián Ager Salcedo, la persona con mayor sensibilidad por el usuario que conozco a la hora de diseñar productos y servicios, y con la que en esta ocasión me reencontré como alumno en ISDI, cuando él es un verdadero maestro.
Recuerdo con fascinación la película «Juegos de Guerra» del año 1983, que exploraba los peligros de la tecnología y la inteligencia artificial en tiempos de conflicto bélico. La historia nos presenta a un joven hacker que, sin saberlo, se infiltra en un sistema militar ultrasecreto y desencadena una serie de eventos que podrían llevar a una catástrofe nuclear.
Me venía a la memoria esta película al leer el reciente artículo de HBR “AI can (mostly) outperform human CEOs”. Y es que a los seres humanos nos fascinan estas narrativas de “escalada militar”. Si además es en el contexto de la aparición de tecnologías que no comprendemos del todo bien, el argumento para el “click-bait” está servido.
El artículo expone la pregunta de si la inteligencia artificial generativa ha demostrado tener el potencial de superar significativamente a los CEOs en la toma de decisiones estratégicas, especialmente en tareas basadas en datos. Así, en un experimento de simulación de una industria automotriz, los modelos de IA superaron a los participantes humanos en decisiones relativas a ganar cuota de mercado y rentabilidad, pero tuvieron grandes dificultades para manejar eventos inesperados, al carecer de una genuina intuición sobre las dinámicas empresariales y una visión adaptativa a largo plazo. El algoritmo proponía acciones muy agresivas para optimizar el corto plazo, pero carentes de flexibilidad y capacidad de pivote.
¿Por qué creo que hay que cambiar el enfoque?
Observo con excesiva frecuencia este “juego de suma cero” en el que estamos constantemente tratando de definir dónde trazar la línea entre el humano y la máquina. Puede ser entretenido desde un punto de vista narrativo, pero sospecho que no nos hace avanzar en un mundo en el que tendrán que coexistir ambas inteligencias.
Considero mucho más interesantes las aproximaciones desde el análisis de las “capacidades aumentadas” que la IA aporta al humano, lo que ya se empieza a denominar como “cointeligencias”.
La gestión del cambio que viene
Esta semana, asistía a la amable invitación de ESIC Business & Marketing School y Area101 para debatir en un panel sobre agilidad empresarial en el ámbito de la innovación corporativa. Una de las ideas que yo transmitía es que necesitamos reenfocar el debate.
Creo que en la tan cacareada era de la “Transformación Digital” nos centramos mucho en “digital” y poco en “transformación”. Digitalizamos tareas, procesos y documentos, pero ¿realmente fuimos capaces de transformar organizaciones?
Esta vez tenemos la oportunidad de hacerlo bien, desde una mirada que reflexione primero sobre qué retos resolver antes de discutir cómo la tecnología puede ayudar a resolverlos. Haciéndonos antes las preguntas “¿por qué?” y “¿para qué?” antes que “¿cómo?”.
Capgemini Research Institute 2024 – Gen AI at work: Shaping the future of organizations
Subiremos IAs a los Comités de Dirección
Las empresas tratamos de pasar rápidamente del Taylorismo a la Holocracia, operando con estructuras más propias del siglo IXX que del siglo XXI. Ahora tenemos la oportunidad de operar a escala, gracias a la tecnología, grandes transformaciones. Pero siempre desde una mirada humanista y entendiendo que entramos en una nueva era del florecimiento donde cada uno de nosotros debe de elevarse en su función.
El hecho de que vamos a tener muy pronto como compañeros en los Comités de Dirección a las IAs está claro. Y no debería de ser entendido como una amenaza ya que, si todas las funciones de un Comité pudieran ser reemplazadas por una IA, no nos hablaría muy bien de la gestión de esa empresa.
Definir una estrategia y dirección, trabajar sobre un propósito, tomar decisiones, desarrollar equipos, construir una cultura de trabajo,… son responsabilidades que desde el origen de los tiempos siempre han desarrollado los líderes de las organizaciones. Y no imagino un futuro en el que eso no deba de seguir ocurriendo de esa manera. Eso sí, lo haremos en un contexto nuevo, en el que tendremos la inmensa suerte de hacerlo acompañados y complementados no ya por copilotos sino por “co-thinkers”.
Acaba una semana intensa de reflexiones sobre #interfaces y #tecnología, y el cambio que potencialmente habilitan. Ilusionado, aventuro que estamos en mitad de una nueva encrucijada en cuanto a cómo nos vamos a #comunicar en las próximas décadas.
Si ya Marshall McLuhan nos advertía hace casi 60 años de que “el medio de comunicación es más determinante en la transmisión de un mensaje que el contenido del mismo”, la tecnología vuelve en estos momentos a ponernos frente al espejo e induce un cambio de paradigma en cuanto a cómo transmitir las ideas.
👉 La conversación, como una danza…
Me preocupa la narrativa que observo frecuentemente en la que se describe la inteligencia artificial como un mecanismo deshumanizador que nos abocará como especie a un sometimiento a la máquina. De hecho, mi experiencia personal es precisamente la contraria. Cada vez disfruto de mejores conversaciones con ella, dejando que sea el modelo el que levante la información, mientras que yo le aporto el #objetivo y el #contexto, convirtiéndola en #conocimiento.
Para mí, una conversación es una relación recíproca de ideas, un intercambio tan delicado como una danza. En esas circunstancias, las nuevas herramientas de IA generativa me parecen prodigiosas en tanto en cuanto habilitan:
⭐️ Conversaciones con uno mismo y su “yo del pasado” ⭐️
Invocando documentos, reflexiones anteriores, bases de conocimiento alimentadas por uno mismo a lo largo de los años y que ya habían quedado en el olvido.
⭐️ Conversaciones con los demás ⭐️
A través de herramientas colaborativas que permiten sumar el algoritmo a la conversación, complementando con visiones diferentes y aportando nuevos sabores.
⭐️ Conversaciones con los datos ⭐️
A través de lenguaje natural, que los hace mucho más accesibles y comprensibles en un formato escrito que nos facilita bajar la abstracción a tierra.
El cambio de interfaz que se está produciendo resulta evidente. Ya no tenemos que aprender a trabajar con la máquina sino que ésta ha aprendido a trabajar con nosotros. Pronto, será habitual dialogar con el software, con la ventaja de que tendrá una ventana de contexto infinita que incluirá nuestras conversaciones anteriores y las bases de conocimiento que determinemos.
Algunas personas asisten al fenómeno entre incrédulas y asustadas. Yo lo observo con la curiosidad e ilusión de un niño, al que de repente le han expandido de forma infinita la dimensión de su arenero.
“Cuando creíamos que teníamos todas las respuestas, de pronto cambiaron todas las preguntas”
Mario Benedetti
Una de las preguntas recurrentes que me hacen cuando en los últimos meses explico el impacto de las herramientas de IA generativa a equipos de negocio es: “¿Pero y cómo sabemos que la respuesta del algoritmo es 100% correcta?”.
Parece una inocente pregunta, pero representa una piedra angular del reto de #adopción y gestión del cambio en el contexto de la inteligencia artificial. En efecto, esa pregunta encierra varias creencias, entre otras:
⭐️ Que vivimos en un mundo determinista, donde A+B=C y en el cual, siguiendo una receta, obtendré resultados siempre idénticos.
⭐️ Que nos importan más las respuestas que las preguntas.
⭐️ Que existe alguna forma certera de determinar si algo es correcto ó incorrecto.
⭐️ Que asumimos que la máquina debe de ser infalible, cuando todos aceptamos que el humano no lo es.
A las empresas no nos gusta la incertidumbre
Recuerdo mi primera experiencia laboral en 3M, donde había un Director obsesionado por entender por qué caían las ventas de un producto industrial. Dediqué meses a hacer correlaciones entre variables hasta generar una serie de hipótesis sobre cuáles podrían ser los motivos. Cuando se las presenté, él me preguntaba insistentemente: “Pero Alberto, ¿estás 100% seguro de que esas son las verdaderas razones?”. El problema es que podía dedicar muchos más meses a trazar nuevas conjeturas, pero jamás tendría una verdadera certeza, y lo más importante de todo, si hubiera sido capaz de llegar a un índice de incertidumbre menor, tampoco hubiéramos tomado medidas muy diferentes de las que yo proponía tomar en aquel momento.
Aquella fue mi primera “caída del caballo” sobre lo mal que nos solemos manejar en entornos de incertidumbre en entornos profesionales y la importancia de promover otros mecanismos en la toma de decisiones más parecidos a como aprenden los niños en entornos de gran variabilidad:
1. Probar
2. Observar
3. Medir
4. Ajustar
5. Volver a probar
6. … y así sucesivamente
Liminalidad e Innovación
Cuanto más esté pegada nuestra actividad empresarial a las Operaciones, al Project Finance, a la gestión de riesgo,… mayores índices de certidumbre necesitamos en nuestro día a día. En esos casos, la IA Generativa necesita operar en entornos con guardarraíles que permitan un control mayor de los corpus de conocimiento con los que trabajan y de la variabilidad de las respuestas.
Sin embargo, si nuestra actividad empresarial requiere de Innovación y explorar y crear el futuro, necesitamos operar con otros parámetros.
Como decía J.R.Tolkien: “no todos los que vagan están perdidos”. Hay multitud de trabajos que requieren de una mentalidad de exploración continua, de un “espíritu de boyscout” como dice Julia Galef en su muy recomendable libro homónimo. Y es que si un “boyscout” es especialmente efectivo resolviendo retos en entornos de incertidumbre, no es solo por sus conocimientos o por ser más listo, sino por observar el mundo con una mentalidad curiosa e identificar opcionalidad por todas partes.
El reto, es que debemos de ser capaces de “desprogramar”nuestras mentes, acostumbradas desde la educación básica a que las preguntas nos venían dadas por el maestro y nuestra labor era determinar y responder con la única respuesta correcta.
El reto, como siempre, está en las transiciones
Mi padre, de formación arquitecto, siempre me recuerda que las goteras en un edificio nunca ocurren en una superficie continua sino en las juntas. Del mismo modo, el óxido aparece en los puntos de soldadura y los materiales se resquebrajan por las uniones. Y es que la gestión empresarial es especialmente complicada en espacios liminales, aquellos a caballo entre un pasado que se desmorona y un futuro que está por construir y muy impredecible.
De mi época de ingeniero estudiando dinámica de fluidos siempre recuerdo la enorme dificultad al pasar de “régimen continuo” a “régimen turbulento”. O del temido “golpe de ariete” o sobrecarga de presión que sufre una tubería en su interior cuando una columna de líquido se mueve dentro de ella con cierta inercia y, de repente, ese flujo cesa de forma repentina.
La turbulencia, genera incertidumbre e impredecibilidad, y en esas estamos.
Y en esto que empezamos a trabajar con Inteligencias Artificiales
Aunque la IA lleva con nosotros ya décadas, en los últimos dos años la democratización de las herramientas de IA generativa ha introducido un nuevo factor en nuestra ecuación como gestores empresariales.
Si ya era complejo manejar equipos humanos, con el grado de incertidumbre que la gestión de personas incorpora, llegan las “máquinas” y tenemos que reconfigurar el tablero.
En primer lugar, debemos de definir qué rol les asignamos y cuál pasa a ser el nuestro. A partir de ahí, surgen infinidad de preguntas, entre otras:
⭐️ ¿Con qué reglas de negocio configuramos el algoritmo?
⭐️ ¿Cómo incorporamos el conocimiento de compañía que reside en las personas en esas reglas de negocio?
⭐️ ¿Quién tiene la responsabilidad sobre las decisiones que el algoritmo tome?
⭐️ ¿Cómo preparamos a las organizaciones para trabajar con IAs?
Bueno, pero es sencillo, porque la IA introduce predictibilidad y órden
Algún incauto podía pensar que el algoritmo nos aporta mayor certidumbre, al fin y al cabo ¿no era gestionar personas lo que introducía variabilidad a la labor del manager?
Sin embargo, el funcionamiento de la Inteligencia Artificial Generativa no es determinista sino probabilista. Ante una misma pregunta, y debido a su diseño aprovechando arquitecturas de redes neuronales, la respuesta nunca va a ser exactamente la misma.
De ahí las preocupaciones de los equipos cuando les hablo de cómo tienen que trabajar con el algoritmo. Cuando esperaban que por fin su labor cómo managers iba a ser más predecible porque ante un estímulo de entrada, la salida iba a ser siempre la misma, ven que no es así.
Congreso anual DEC
Afortunadamente, la transformación que aporta la IA generativa no es determinista
Un viejo proverbio chino dice algo así como “ojalá vivas tiempos interesantes”, ante lo que yo reformulo: “ojalá vivas tiempos probabilistas”.
Creo sinceramente que la oportunidad que ofrece la creación de un binomio humano + máquina nos mete de lleno en el mundo de la creación y en un nuevo florecimiento de la labor del manager.
Es cierto que supone una amenaza para todos aquellos trabajadores del conocimiento que, aunque se creían “white collar”, no dejaban de ser un “blue collar” pero de oficina. Y es que apretar tornillos u ordenar documentos no dejan de ser actividades conceptualmente muy próximas.
Sin embargo, es precisamente la impredecibilidad del algoritmo lo que hace que siga existiendo, como dice Javier G. Recuenco, el “último santuario humano”. De otra forma, si toda nuestra labor como gestores fuera determinista y replicable, seríamos absolutamente prescindibles.
En términos muy parecidos se desarrolló esta semana el debate en el congreso de los amigos de la Asociación DECpara el Desarrollo de la Experiencia de Cliente en donde tuve el placer de intervenir invitado por Nanes Martínez-Arroyo , Accenture y Avanade. ¿Cuál es el rol del humano y cuál el del algoritmo cuando diseñamos y ejecutamos procesos de operaciones de cliente en nuestras organizaciones?
Es la era de la Co-Inteligencia
Pero volvamos por un momento a mis sesiones con los equipos promoviendo el uso de la IA Generativa.
Creo que un reto fundamental es hacerles conscientes de que la IA no sustituye al humano. Que de lo que se trata es de establecer procesos de trabajo híbrido humano-máquina en los que cada uno aporta una serie de capacidades.
Todas las actividades relacionadas con el procesamiento de información podrán quedar relegadas al algoritmo, que lo hace de forma mucho más exhaustiva y eficaz. Y aquello relacionado con contextualizar el trabajo, darle sentido y definir una hoja de ruta, caerá del lado del humano.
En términos prácticos, yo recomiendo a los equipos a la hora de trabajar con IA:
⭐️ Definir el objetivo, el contexto, las fuentes de información y el formato de salida.
⭐️ No delegar en el algoritmo la responsabilidad sobre los resultados que nos proporciona.
⭐️ Entender que la IA generativa es un “copiloto”, y que nosotros los humanos debemos seguir al mando como “pilotos”.
⭐️ Comprender que el algoritmo no es “determinista” y que ante pequeños cambios de contexto o de la información de entrada, ofrece resultados ciertamente diferentes.
⭐️ Utilizar flujos de retroalimentación con el algoritmo, contribuyendo a su aprendizaje en aquellas herramientas donde esto es posible.
⭐️ Ofrecer a la IA información de entrada completa, exhaustiva y relevante.
En el fondo, la oportunidad que la IA nos brinda es extraordinaria. Si todo fuera cuestión de seguir un manual, sería aburridísimo. Sin embargo, tenemos la oportunidad de delegar en ella aquellas tareas de menor valor añadido y elevarnos y florecer en aquellas capas de conocimiento en las que la componente creativa y de darle sentido a las cosas es relevante.
Ethan Mollick, profesor de The Wharton School y co-director del laboratorio de IA generativa , nos cuenta en su reciente libro “Co-Inteligencia” cómo la democratización de la IA a partir de Noviembre de 2022 y la expansión de los modelos de propósito general, nos obliga a desarrollar la capacidad de sentirnos cómodos en un mundo de colaboración humano-máquina.
Comparto su optimismo y su apuesta por no perder la identidad humana. Dejemos a la máquina ayudarnos en resolver preguntas, y centrémonos en determinar qué preguntas son relevantes resolver.
No nos preocupemos tanto de si el resultado del algoritmo es o no 100% correcto, y apoyémonos en su resultando aportando criterio y sentido común. No vivimos en un mundo determinista sino probabilista, y habrá que estar cómodo con el riesgo y la incertidumbre.
Bienvenidos a la era de las capacidades aumentadas.
Decía Woody Allen que le importaba el futuro, porque era donde iba a vivir el resto de su vida.
A nada que aspires a ser algo más que un pequeño primate pensante, el futuro debe de interesarte. Pensar en el futuro nos permite diseñar, planificar, preparar, tomar decisiones y dar forma al porvenir, beneficiándonos a nosotros mismos y a los que nos rodean. Si además eres padre, saber la realidad que le dejarás a tus hijos aumenta el apetito por asomarse a la ventana del futuro.
Creo firmemente en aquella frase atribuida a Confucio que decía algo así como “si eres la persona más inteligente en una habitación, debías de cambiar de habitación”. Y lo que Isabel me proponía era trasladarme no ya a una nueva habitación, sino a un verdadero palacio de ideas.
Así que de aquella idea cocinada a raíz de un encuentro entre amigos en una casa de campo en tierras de la Alcarria, surge hoy el podcast “Futuroscopia”. Como todo en sus comienzos, es un espacio de reflexión que todavía gatea, y que habrá que mimar y cuidarlo para que crezca. Pero ¡y lo que nos estamos divirtiendo!
Para esta primera edición, nos pusimos de gala y decidimos invitar a Jesús Zamora Bonilla, catedrático de Lógica y Filosofía de la Ciencia en la UNED, y autor del libro “Progreso, ma non troppo”. Así que el maestro García-Quismondo nos preparó una “jam sesión” en la que fuimos poniendo a prueba las tesis de Jesús sobre el progreso y que pueden resumirse en que, si bien la evolución en áreas como la Ciencia, la Tecnología, la Economía y la Espiritualidad han sido notorias en las últimas décadas, se quedan cortas comparadas con su florecimiento en siglos anteriores, y parecen condenadas a quedarse estancadas en una suerte de curva logística.
Tratando de escapar de las etiquetas de “tecno-cenizos” ó “tecno-optimistas”, retamos con argumentos las tesis de Jesús y creo que surgió una charla entretenida en la que yo al menos no paré de aprender.
Sin intención de hacerte “spoiler” pero para abrirte el apetito y animarte a escuchar el podcast, planteo aquí algunas de las preguntas sobre las que transitamos:
🎭 ¿Por qué si la Tecnología prometía liberarnos de las tareas más penosas y permitirnos dedicarnos al florecimiento de lo humano, no parece que hayamos avanzado tanto respecto a los Griegos hace más de 3.000 años?
💊 ¿Y si la verdadera oportunidad de progreso no fuera el desarrollo vertical de tecnologías estancas sino conectarlas (ej: la computación y la biomedicina)?
🎓 ¿Por qué si dedicamos 10 veces más recursos, personas y presupuesto a la Ciencia que hace 50 años, los avances no parecen cualitativamente habernos mejorado la vida?
💻 ¿Cómo es que siendo los ordenadores de hoy en día billones de veces más poderosos que los de los inicios de la computación, no somos capaces aún de resolver las grandes preguntas de la Humanidad?
❔ ¿Y si en vez de dedicar tanto esfuerzo tecnológico a la obtención de respuestas lo hiciéramos para asegurar que resolvemos las preguntas adecuadas?
✒️ ¿Tiene más valor la ingente producción artística actual ó una pretendida mayor calidad pasada?
⚖️ ¿Ha permitido la Tecnología dotarnos de mayor transparencia y calidad democrática?
😕 ¿La “Ilusión de Pareto” nos condena a que a medida que aumentan las capacidades técnicas lo hagan también nuestras expectativas y eso nos provoque permanente frustración?
🔬 ¿Ha avanzado la Ciencia más allá de la “Introducción a la Ciencia” de Asimov en 1973?
🔆 ¿Es la disponibilidad de energía marginalmente ilimitada condición sine qua non para descubrir tecnologías hoy inalcanzables?
En fin, te invito a acompañarnos en este nuevo viaje explorando el futuro, y te animo a dejar en los comentarios algún asunto sobre el que quieras que reflexionemos en las próximas ediciones.
Isabel, César, Paco y Fernando, conoceros es un verdadero regalo.
A los seres humanos no nos gusta por lo general tomar decisiones. Decimos que sí, que queremos elegir siempre que sea posible, pero la realidad nos suele demostrar que preferimos exactamente todo lo contrario: la comodidad de que nos den las cosas hechas, el refugio de la predictibilidad, la rutina y la certidumbre. Y es lógico, porque si conseguimos que un heurístico u otra persona elija por nosotros, minimizamos el gasto energético. Y es que pensar consume cantidades ingentes de energía. Aunque supone solo el 2% del peso medio de una persona adulta, el cerebro consume más del 20% de la energía que generamos (unos 20 watios al día con una dieta de 2.400 kilocalorías).
¿Puede la IA crear Arte?
Crear arte es un proceso en el que debemos tomar decisiones constantemente. A un trazo le sigue otro, una estrofa continúa con la posterior, a un acorde le acompaña el subsecuente.
¿Puede una IA tomar decisiones?. La forma que tenemos de dar instrucciones a una IA es mediante un «prompt», de forma que con unas someras indicaciones, ésta pueda «centrar el tiro». Pero irremediablemente, el modelo tendrá muchos huecos que rellenar en aspectos que no hemos determinado nosotros en nuestras instrucciones iniciales. Y para cubrir esos vacíos, utilizará información de su modelo de entrenamiento. En el caso de aplicaciones artísticas, esos datos vendrán necesariamente de otras obras anteriores. ¿Y qué referentes artísticos elegirá el modelo?. Tal y como funcionan los LLM en la actualidad, aplicará un cálculo estadístico determinando que la referencia en la que inspirarse sea aquella más popular ó más frecuente en su modelo de entrenamiento.
¿Podrá emocionarnos una creación que ha sido generada usando «valores medios» de referencias del pasado? Creo que la IA podrá generar obras que nos encajen fácilmente dentro de los referentes que consideramos familiares, pero difícilmente podrá sorprendernos. Formalmente, estarán muy bien construidas de acuerdo a unos cánones, pero será complicado que lleguen a generarnos emociones nuevas.
El arte es una cadena de «arrepentimientos»
Un creador toma decisiones típicamente de forma secuencial a medida que avanza en el proceso de elaboración de su obra, mientras que para alimentar una IA el prompt hay que proporcionarlo ex-ante. La IA funciona como si una vez liberado el pincel, no hubiera forma de reenfocar su trazo.
Si has visitado el Museo del Prado en Madrid, habrás observado los «arrepentimientos» en los cuadros de Velázquez. Son aquellos trazos iniciales y bocetos que finalmente el pintor ocultó en capas subsecuentes de pintura.
¿Imaginas el arte sin borrones, sin notas al márgen, sin «arrepentimientos»?
Interpolando en un mundo autorreferente
Los modelos actuales son extraordinarios a la hora de interpolar en un campo de conocimiento específico. De este modo, generan resultados realmente coherentes. No es que sean capaces de «entender» el mundo en el que vivimos, pero saben generar datos que encajan como un guante en ese mundo. Además, por una cuestión de diseño, están sesgados según el corpus de conocimiento con el que han sido entrenados.
Como el filósofo Grady Booch nos recuerda, decía Sagan que «la mente humana hace mucho más que predecir«. Es capaz de generar abstracciones, construir teorías sobre el funcionamiento del mundo, y sobre todo, interpretarlo desde el contexto de la propia experiencia, de nuestros objetivos, deseos y sentimientos.
¿Y por que la IA debe reemplazarnos?
La IA no parece que vaya a reemplazar la capacidad creativa de un ser humano en el corto plazo. Pero la pregunta es «¿por qué demonios debería de hacerlo?».
Parecemos obsesionados por predecir cuándo los modelos de lenguaje llegarán a alcanzar la Inteligencia Artificial General (AGI), en vez de enfocarnos en aplicar la IA intensivamente en aquello para lo que ya ha demostrado que es extremadamente útil.
Como habitualmente nos recuerda César Astudillo, el desarrollo tecnológico no es bueno per sé, pero es ingenuo pensar que se puede parar y poner en pausa por el miedo a potenciales eventos futuros. ¿Qué habría pasado si hubiéramos pausado a Newton, Darwin ó Einstein?
Entre el pesimismo de los tecnocenizos del progreso que creen que la IA nos llevará irremediablemente al desastre y el aceleracionismo tecnológico según el cual la tecnología no es un medio sino un fin y hay que aceptarla sin filtro, hay un término medio mucho más interesante.
Frecuentemente en mi contexto profesional hago a los equipos de Tecnología la pregunta de «¿para qué quieres desarrollar eso?«. Porque no todo lo que se puede hacer técnicamente, debe de ser hecho. Porque debemos empezar desde el primer momento con el impacto en nuestra organización que tendrá aquel desarrollo tecnológico que promovamos.
Necesitamos la «mirada del filósofo», la que se pregunte el «por qué» y el «para qué», poniendo al humano en el centro.
Minotauros ó Centauros
El líder en las organizaciones debe impulsar la adopción tecnológica desde una perspectiva de «Centauro«, donde la toma de decisiones ocurre en la capa humana y la tecnología impulsa con toda su potencia. El liderazgo desde el mero enamoramiento tecnológico con un enfoque de «Minotauro» donde delegamos la cognición al algoritmo y dedicamos al humano a la pura fuerza tractora, lleva irremediablemente al desastre como sociedad.
Siendo responsable de Diseño de Experiencia Cliente en Iberia,siempre nos obsesionaba en el proceso de diseño el dedicar el tiempo suficiente a decidir sobre qué problemas u oportunidades nos estábamos enfocando («design the right things»), antes de zambullirnos de lleno en la ejecución desde la excelencia («design things right»). En esta época de aceleración gracias a la IA, creo que el humano debe dedicar gran parte de su reflexión a asegurarse de diseñar las cosas correctas, y dejar a la IA que una vez decidido qué diseñar y por qué sea ésta la que nos ayude a ejecutarlo de forma correcta.
La emoción de un desfile de moda
Andaba yo en mis pensamientos sobre todos estos asuntos, y dándole vueltas al último informe de Mario Draghi sobre la competitividad en Europa, cuando los amigos de la Universidad de Diseño, Innovación y Tecnología (UDIT) me invitaron al desfile de sus estudiantes del grado de Diseño de Moda en el contexto de la Mercedes Fashion Week.
Ver sobre la pasarela las creaciones de estas jóvenes promesas era emocionante. Pensar que tenemos una generación de chavales explorando «el último santuario humano» en el contexto de la creación, resultaba fascinante.
Según me comentaban, utilizan extensamente la tecnología y la ciencia de materiales para conceptualizar sus diseños. Pero en último lugar, es su muy personal y buen criterio y su ojo para la creación, lo que consigue que nos emocionemos al admirar sus obras.
Mirando al futuro con optimismo
Creo que los que peinamos ya alguna cana tenemos una responsabilidad a la hora de habilitar mecanismos en las organizaciones que lideramos para impulsar una aproximación a la tecnología desde un punto de vista que facilite el florecimiento de lo humano. Pausar de vez en cuando una visión más utilitarista y orientada a la pura eficiencia y replantear si estamos utilizando la tecnología para construir empresas que no solo «interpolen» de forma muy precisa sino que sepan «hiperpolar» como explica el filósofo Toby Ord. Es decir, hacerse preguntas en direcciones que no pueden ser definidas en el contexto de los ejemplos existentes. Explorar territorios y espacios conceptuales en dimensiones no definidas en la realidad existente.
Nunca fue un mejor momento para dedicarse a la gestión del cambio como en tiempos como los actuales. Disfrutemos el viaje.
El poema “The road not taken” de Robert Frost es sencillamente maravilloso.
Nos habla de la libertad de elección, de la incertidumbre y de la bondad de tomar el camino menos transitado. Tiene un marcado tono melancólico, porque reconoce que elegir es renunciar y que no es posible vivir todas las oportunidades que se presentan y que no se han tomado. El poema cuestiona la idea de que nuestras decisiones sean racionales, e incide en el hecho de que es imposible saber a ciencia cierta el resultado de nuestras acciones.
Two roads diverged in a yellow wood,
And sorry I could not travel both
And be one traveler, long I stood
And looked down one as far as I could
To where it bent in the undergrowth;
Then took the other, as just as fair,
And having perhaps the better claim,
Because it was grassy and wanted wear;
Though as for that the passing there
Had worn them really about the same,
And both that morning equally lay
In leaves no step had trodden black.
Oh, I kept the first for another day!
Yet knowing how way leads on to way,
I doubted if I should ever come back.
I shall be telling this with a sigh
Somewhere ages and ages hence:
Two roads diverged in a wood, and I—
I took the one less traveled by,
And that has made all the difference.
Pensaba el otro día en este poema al reflexionar sobre el valor que aporta la #IA en procesos creativos, en aquellas ocasiones donde precisamente se persigue caminar por territorios inciertos y caminos poco explorados.
He de reconocer que utilizo muy frecuentemente herramientas de IA para romper el “lienzo en blanco” y “calentar motores”. Es una forma muy efectiva de realizar “estiramientos” mentales y empezar a desperezar neuronas.
Sin embargo, creo que puedo contar con los dedos de una mano las veces que en el último año el uso de la #IA me ha sorprendido sugiriendo un camino radicalmente diferente al que ya transitaba. Si bien en los primeros meses se percibía cierta anarquía y locura en los resultados, los LLMs producen ahora en general resultados “muy aseaditos” pero poco inspiradores, y mi hipótesis es que lo hacen por dos motivos fundamentales:
Los grandes modelos de lenguaje no son sino mecanismos estadísticos que juegan con las piezas con las que han sido entrenados. Del mismo modo que un set de LEGO permite variaciones a partir únicamente de las piezas que lo componen, la IA en procesos creativos transita por caminos ya abonados, aplicando probabilidades sobre el conocimiento previamente generado. Y es que cuando se habla del peligro de los «sesgos» en la #IA, frecuentemente se centra el debate en los sesgos de género ó raza. Sin embargo, existen muchas otras derivadas de la limitación del corpus de conocimiento usado en el entrenamiento. En un divertido experimento, se trató de que una IA fuera capaz de desescalar un conflicto en una suerte de “Juegos de guerra”. Sin embargo, según el estudio, los LLM no se mostraron especialmente hábiles buscando consensos, porque la humanidad se ha dedicado a luchar, y no existe abundante literatura sobre cómo resolver rencillas.
La IA está optimizada para reducir la pérdida y no para maximizar la ganancia. De esta forma trata de reducir el riesgo y no “romper nada”. De hecho, es evidente que los principales modelos trabajan en el contexto de unos enormes “guardarraíles” que impiden abandonar una ruta que podría llevar a resultados que pudieran causar alarma social, incorrección política ó grandes dilemas morales.
De hecho, para introducir variabilidad y pensamiento lateral al proceso creativo, se necesita al humano. De otro modo, circularemos como esas interminables hileras de hormigas que discurren siguiendo el rastro de feromonas de las que les preceden.
Leía hace poco un estudio que indagaba en la paradoja de la exploración científica. Cuando un grupo numeroso de científicos comparte datos y metodología, aumenta su comprensión sobre el trabajo de sus colegas y su confianza sobre el mismo. Sin embargo, se generan “burbujas epistémicas” derivadas de un pensamiento grupal que penaliza sobremanera la exploración de territorios de conocimiento adyacentes. La IA trabaja de forma parecida, promoviendo una suerte de “endogamia creativa”.
Escuchaba hoy el podcast de Jaime Rodríguez de Santiago : «vivimos en la mediocridad» y no paraba de pensar que la tecnología y los algoritmos no han hecho sino promover “la media” y el encaje en una cierta distribución estadística, evitando las “colas”.
Sin embargo, para el desarrollo de procesos creativos, debemos apostar por ser “centauros” cabalgando a lomos de inteligencias artificiales y no autómatas sometidos a ellas. El día que nos demos cuenta de que esto no va de «sustituir por» IA sino de «acompañar con» IA, habremos avanzado muchísimo.
De momento, la capacidad de conectar ideas aparentemente no relacionadas, de crear categorías o conceptos no basados en nada anteriormente desarrollado, parece ser territorio intrínsecamente del hombre, ó como dice Javier G. Recuenco, “santuarios humanos”.
Disfrutemos del camino de la #IA, y abandonémonos al menos transitado.
En 1957, el biólogo Conrad Waddington describió que el desarrollo de los mamíferos es unidireccional, lo que significa que las células madre embrionarias se desarrollan en una dirección que discurre por definición hacia un estado más maduro y diferenciado.
Esta idea se ha representado habitualmente como una canica que rueda desde la cima de una montaña hasta el fondo de un valle. Así se muestra, visualmente, la restricción natural del potencial de diferenciación celular durante el desarrollo normal.
Sin embargo, una serie de experimentos pioneros mostraron que el destino celular es flexible y reversible. Debido al trascendental descubrimiento de que se pueden generar células madre pluripotentes inducidas (iPSCs, por sus siglas en inglés), el estado pluripotente es como un centro que conecta diferentes rutas de linaje en la cima del modelo de Waddington. Entre otras aplicaciones, este descubrimiento ha permitido afrontar con éxito el tratamiento de procesos oncológicos.
Este fin de semana cerrábamos en Alicante el Máster Ejecutivo en Inteligencia Artificial, que ha supuesto 7 meses de “subir de nuevo la canica a la cima” constantemente, para conectar con nuevos territorios de conocimiento. Y es que ha sido una montaña rusa de “esguinces mentales” y aperturas de mente, con ponentes de primerísimo nivel a los que he de agradecer infinitamente el habernos ayudado a sumergirnos de lleno en el potencial de la Inteligencia Artificial para los negocios.
Cerraba el Máster Miguel Ángel Román con una pregunta: “¿Enfrentaremos un nuevo Invierno de la #IA o estamos más bien en una Primavera donde todo el potencial está por descubrir?”.
Yo estoy convencido de que estamos aún en el comienzo de una ruta en la que veremos nuestras capacidades como individuos y como organizaciones, aumentadas. La IA es pura potencialidad, es subir la canica a una montaña muy alta. De nosotros dependerá por qué valle la echamos a rodar.
Un modelo que frecuentemente uso en mis clases sobre #GestionDelCambio para describir cómo diseñar arquitecturas de incentivos en #SistemasComplejos es el de los “Atractores y Repelentes”. Ambos son pequeñas intervenciones que ayudan a que “la canica” discurra por el camino que como diseñadores de procesos de transformación, queremos que la organización transite.
La clave para responder a la pregunta sobre si estamos o no ante una Primavera de la IA es discernir si seremos capaces de diseñar “Atractores” que sean netamente positivos para las sociedades en las que vivimos y no “valles de la muerte”. Que seamos capaces, en ese “descenso por gradiente” que utilizan los algoritmos de optimización, de llegar a mínimos locales deseables desde una perspectiva completa para todos los individuos.
Clayton Christensen fue uno de los pensadores sobre gestión empresarial más influyentes de la segunda mitad del S. XX. Desde su cátedra en Harvard, estudiaba los principios que llevaban a explicar el efímero éxito de muchas empresas. ¿Cómo es que a menudo sucumbían al embate de competidores mucho más pequeños que sin embargo ofrecían productos más baratos, sencillos y accesibles?
El reto de la empresa ambidiestra
En “El dilema del innovador”, Christensen expone el reto de la “empresa ambidiestra”, aquella que debe de ser capaz de innovar y explorar, al mismo tiempo que explota su negocio actual. Afirma que las empresas consolidadas (aquellas que realizan solo “innovación incremental”), no están a menudo preparadas para adaptarse a las nuevas tecnologías que trastocan los mercados (“innovación disruptiva”). Además, de forma paradójica, esa mala preparación no se deriva de una mala gestión de su negocio actual, sino de que su enfoque eficiente con el negocio existente no es funcional en situaciones de innovación tecnológica que generan disrupción. Por ejemplo, los análisis de mercado sobre clientes existentes no permiten evaluar mercados que están aún por ser creados.
¿Qué está ocurriendo en nuestras sociedades?
Recordaba estos días a Christensen al observar el páramo de indigencia intelectual existente en el panorama político en España. Líderes sin preparación y sin escrúpulos, condicionan el presente y el futuro de la “empresa” que dirigen. Gestores mucho más solventes del pasado, quedaron desplazados por líderes emergentes de mucha menor talla profesional e ínfima catadura moral.
El fenómeno no es solo nacional. Tras décadas de éxito continuado, los planteamientos políticos tradicionales (que representan la “innovación incremental”), se han centrado en atender a sus clientes más cautivos y “rentables”, es decir, a los votantes más fieles. Sin embargo, al hacerlo, han descuidado a una gran parte del mercado potencial, formado por votantes menos cautivos y más volátiles, que se sienten insatisfechos o ignorados por la oferta política existente. Estos votantes, que representan los clientes no consumidores, son el caldo de cultivo para la “innovación disruptiva”, ofrecida en este caso por planteamientos populistas, que prometen productos más simples, baratos o emocionales, que apelan a los instintos, los prejuicios o los miedos de la gente.
Toboganes morales
Del mismo modo que el agua siempre se encañona por el valle con mayor pendiente, los mensajes políticos, una vez desactivado el espíritu crítico de la ciudadanía, avanzan con fuerza por el camino donde encuentra menor resistencia, que es siempre el de la emoción (miedo al futuro, desencanto con el presente, odio al diferente,…).
Razonar consume energía, y tras años de evolución, nada premia más la naturaleza que el minimizar el gasto calórico. Pensar, analizar, evaluar, elegir,… son verbos que requieren de un esfuerzo ímprobo, desde luego mucho mayor que dejarse guiar “por las tripas”. Desde el punto de vista cognitivo, resulta mucho más sencillo comprar “mercancía escacharrada” que ejercer el librepensamiento.
Pero volvamos por un momento a Clayton Chrystensen. Uno de los elementos de su obra que más me llama la atención es su acercamiento al final de sus días al concepto de “cómo medir una vida bien vivida”. En su escrito “How will you measure your life”, explora el concepto de los “toboganes morales”.
Un “tobogán moral” es una metáfora que utiliza Christensen para describir cómo las personas toman malas decisiones siguiendo el camino incorrecto por ser el de menor resistencia, sin pensar en las consecuencias negativas a largo plazo. Es el clásico “bueno, sé que estoy obrando mal, pero por una vez no pasa nada”. Y es que, una vez tu comportamiento no es intachable en todas y cada una de las ocasiones, cada vez es más fácil estropiciarlo aún más al ser el coste marginal de conducirse por el lado equivocado de la vida, cada vez más pequeño.
La impunidad que siente el líder con escasa catadura moral, es el “fentanilo” en la toma de decisiones y el buen gobierno. Le lleva a un descenso gradual y casi imperceptible, que ocurre cuando se asumen pequeñas concesiones o compromisos, que poco a poco erosionan los principios y los valores. ¿Te suena parecido a lo que nos está ocurriendo en España?
Un tobogán moral puede llevar a una vida infeliz, insatisfactoria o incluso ruinosa. Christensen advierte de la necesidad de tener una visión clara de lo que queremos lograr en nuestra vida, y de no dejarnos arrastrar por la tentación del cortoplacismo o la conveniencia.
La espiral del silencio
La politóloga alemana Elisabeth Noelle-Neumann exponía en 1977 en su teoría sobre “la espiral del silencio” que la opinión pública actúa como un mecanismo de control social que premia o castiga a los individuos según se alineen o no con las actitudes percibidas como dominantes en la sociedad. Noelle-Neumann sostiene que los individuos tienen un «sentido» que les permite medir el clima de opinión y ajustar su comportamiento en consecuencia. De esta forma, se crea una espiral que silencia a las voces disidentes y refuerza a las percibidas como mayoritarias, hasta que se encuentra con el «núcleo duro», formado por aquellos que no renuncian a sus principios y valores y que desafían a la opinión pública con su testimonio. La espiral del silencio nos invita a reflexionar sobre el papel que jugamos en la configuración de la opinión pública y el valor que le damos a nuestras convicciones. ¿Somos capaces de construir una catedral moral, o nos conformamos con hacer lo fácil y seguir a la masa y el “pensamiento único”?
Pensamiento Catedral: hacer lo fácil o hacer lo correcto
La primera piedra de la catedral de Colonia fue colocada en 1238. Sin embargo, su construcción terminó en 1880, es decir, 632 años después. Generaciones de maestros artesanos contribuyeron a que esta joya gótica pudiera ver la luz. Cada uno de ellos, era plenamente consciente de que nunca la vería terminada en vida, y sin embargo la existencia de un propósito común les impulsaba a participar en un ejercicio coral donde lo importante no era el “aquí y ahora” sino la contribución marginal a una gran obra.
El “pensamiento catedral” desapareció hace tiempo de nuestra sociedad, y pocos líderes políticos y empresariales son capaces de aplicarlo para desactivar toboganes morales. Aunque no les disculpa, las arquitecturas de incentivos perversas, les llevan a que esos costes marginales de conducirse por el lado oscuro y el corto plazo, resulten ínfimos.
Hemos entrado en el lado de la asíntota de la curva, y ante cada nueva y mayor barrabasada, el impacto en el ciudadano medio ya es marginalmente inexistente. Nos estamos volviendo insensibles frente a la burricie.
Cómo salimos de esto
Va a ser tremendamente complejo. Y es que como decía el demócrata estadounidense Upton Sinclair, “es difícil hacer que un hombre entienda algo cuando su salario depende de que no lo entienda”.
No tengo una bola de cristal, pero aventuro tres posibles salidas, de más a menos traumática:
Las cosas solo pueden empezar a ir bien, una vez que han llegado a ir muy, muy mal: Cuando el desgüazamiento del estado de derecho sea tal que lleve a una situación-país no funcional, cuando hayamos tocado fondo, solo quedará salida hacia arriba. No hace falta describir lo traumático del fenómeno y el sufrimiento que dejaría por el camino, sobre todo en aquellos ciudadanos con menores recursos. Y ni siquiera tocar fondo garantiza retornar a la superficie y podríamos quedar atrapados en el fondo durante decenios.
La llegada de un competidor que opere con otras arquitecturas de incentivos: A nadie se nos escapa que las democracias liberales son un caso muy atípico de cómo gestionar una sociedad. Dictaduras y “dictablandas” funcionan como sistema de gestión en la mayor parte del mundo habitado. Cuando esos sistemas empiecen a pasarnos por la izquierda y por la derecha, en el mejor de los casos servirá de revulsivo al ver “las orejas al lobo”. Si no queremos acabar ahí, tendremos que desarrollar sociedades que operen desde otros principios y sean funcionales.
Innovación disruptiva que lleve a cambio de paradigma: La potencial llegada de un “cisne negro” que nos impacte de una forma imprevista y que sea capaz de aglutinar voluntades alineadas en una suerte de pensamiento catedral en búsqueda de un bien común y nos saque del “regate corto” actual. El COVID pudo ser uno de esos fenómenos que alineara hojas de ruta y sin embargo creo que precisamente acrecentó las diferencias.
Mi estrategia personal
Cada vez creo menos en obsesionarse con los resultados y más con el proceso. Y es que “un viaje de mil millas, comienza con el primer paso”. Así que paso corto y mirada larga.
Empecemos con inculcar pensamiento crítico y pensamiento catedral en nuestra esfera de influencia. Ejerzamos modelos de “liderazgo elegante” en nuestros equipos y con nuestras familias. Dotemos a nuestros hijos de preparación para desenvolverse en un mundo endiabladamente complejo, promoviendo que busquen entornos donde puedan ser ciudadanos libres e iguales.
Soy en el fondo optimista, las sociedades han superado situaciones infinitamente más complejas. Espero que pronto, estos tiempos infames, hayan quedado en nuestra memoria como un mal recuerdo.
marketingstorming 