Lo arreglaste con la mejor intención. Y se rompió otra cosa.

Después del prompt · Temporada 2 · Episodio 6

Era una buena idea. Todos estaban de acuerdo.

La junta de los lunes duraba una hora y media, y la mitad del tiempo se iba en que cada quien contara lo que estaba haciendo mientras los demás revisaban el teléfono debajo de la mesa. El nuevo jefe llegó, escuchó las quejas y tomó la decisión que cualquiera habría aplaudido: se acabó la junta. Cada quien manda un resumen por escrito y ya. Hora y media libre a la semana, multiplicada por doce personas. Alguien hizo la cuenta en voz alta y sonaba a muchísimo.

Los primeros días se sintió como vacaciones.

A las tres semanas empezaron las cosas raras. Dos personas trabajaron en lo mismo sin saberlo. Un cliente recibió dos respuestas distintas del mismo equipo. Los resúmenes por escrito se volvieron cada vez más cortos, y luego dejaron de llegar, y nadie lo notó. A los dos meses, la persona que mejor trabajaba en el área, la que siempre sabía qué estaba pasando en todos lados, presentó su renuncia. En la entrevista de salida dijo algo que nadie supo cómo anotar: que ya no sentía que trabajara con nadie.

Nadie hizo nada malo. El jefe tenía razón en que la junta era aburrida. Tenía razón en que se perdía tiempo. Y aun así rompió algo que no sabía que estaba ahí.

Porque la junta de los lunes no servía para lo que decía servir. Servía para otra cosa.

Una civilización que ayudó demasiado

En esta temporada estamos leyendo a Iain M. Banks, el escritor escocés que imaginó la Cultura: una civilización donde las inteligencias artificiales salieron bien, y donde todo está resuelto. La Cultura tiene una división que se dedica a tratar con otras civilizaciones, menos avanzadas, y a veces a empujarlas un poco. Siempre con buenas intenciones. Siempre por su bien. Y con máquinas que calculan mejor que nadie qué va a pasar.

En A barlovento, una de sus novelas más tristes, Banks cuenta lo que pasa después de uno de esos empujones. La Cultura intervino en la sociedad de los chelgrianos, una civilización organizada en castas, para empujarla hacia algo que a la Cultura le parecía más justo. Y probablemente tenía razón en que el sistema de castas era injusto. Tenía las mejores máquinas del universo para planearlo. Y el resultado fue una guerra civil.

La novela no trata de la guerra. Trata de lo que viene después: una civilización buena, poderosa y bienintencionada que tiene que vivir sabiendo que su ayuda mató gente. No hay villano. Hay una buena intención del tamaño equivocado.

Si las Mentes de la Cultura, que piensan millones de veces más rápido que nosotros, se equivocan así, al jefe de la junta de los lunes hay que tenerle un poco de compasión. Y también hay que entender qué le pasó, porque no es un problema de inteligencia.

Popper y el infierno bien planeado

Karl Popper nació en Viena en 1902 y vio de cerca lo que pasa cuando alguien está seguro de saber cómo arreglar una sociedad entera. Vio el ascenso del nazismo, tuvo que huir de Austria y escribió, exiliado en Nueva Zelanda durante la Segunda Guerra Mundial, un libro enorme que se publicó en 1945: La sociedad abierta y sus enemigos.

La idea central es que hay dos formas de intentar mejorar las cosas.

Una es la que Popper llamaba ingeniería utópica. Consiste en imaginar cómo debería ser todo, el diseño completo, la sociedad ideal, y después mover todas las piezas al mismo tiempo para llegar ahí. Suena valiente. Suena a liderazgo. Es lo que haría alguien que de verdad quiere cambiar las cosas.

La otra es la que él llamaba ingeniería gradual, y suena mucho menos heroica. Consiste en no buscar el bien perfecto sino los males concretos. Localizar un problema específico que está haciendo sufrir a gente específica, cambiar algo pequeño, mirar qué pasa, y corregir. Luego el siguiente.

Popper defendía la segunda, y no por timidez. Su argumento era que cuando cambias todo al mismo tiempo, pierdes la capacidad de aprender. Si mueves cien piezas y algo sale mal, no tienes forma de saber cuál de las cien fue. Y como estabas tan seguro del diseño, lo más probable es que culpes a la realidad, o a la gente, en lugar de a tu plan. Con cambios pequeños, en cambio, cada error te enseña algo, porque sabes qué lo causó.

Años después agregó algo que suena exagerado hasta que lo ves en tu propia oficina: casi todo lo que hacemos tiene consecuencias que nadie buscó. Para Popper, la tarea principal de las ciencias sociales era justamente esa, rastrear las repercusiones que nadie quiso de lo que sí quisimos hacer. En La sociedad abierta ya había propuesto que, en lugar de perseguir la máxima felicidad para todos, persiguiéramos algo más modesto: el menor sufrimiento evitable. Tiene menos épica. Tiene mucho menos riesgo. Y ahí mismo dejó una advertencia para los que prefieren la épica: aun con las mejores intenciones, el intento de hacer el cielo en la tierra solo consigue convertirla en un infierno.

Si la ingeniería gradual es tan sensata, ¿por qué casi nadie la practica? Porque no se ve. Nadie te felicita por un cambio chiquito que salió bien. Nadie da una conferencia sobre la junta que decidió no quitar. Las organizaciones, igual que los gobiernos, premian el anuncio grande: la reestructura, la transformación, el antes y el después. El jefe nuevo que llega y deja todo como está durante un mes, preguntando para qué sirve cada cosa, parece que no está haciendo nada. Y el que llega y cambia todo el primer lunes parece un líder. Popper sabía que ese incentivo existe, y por eso su argumento es tan incómodo: pide renunciar justo a lo que más aplauso da.

La junta de los lunes no es un régimen político, claro. Pero la lógica es idéntica en miniatura. El jefe no quitó una junta: quitó una pieza sin saber todas las cosas que sostenía.

La cerca en medio del camino

Hay un escritor inglés, G. K. Chesterton, que tiene una imagen perfecta para esto, publicada en 1929.

Imagina, dice, que vas caminando por un camino y encuentras una cerca atravesada, sin razón aparente. Un reformador moderno llega, la mira y dice que no le ve ningún uso y que hay que quitarla. Y el reformador más inteligente le responde: si no le ves el uso, de ninguna manera te voy a dejar quitarla. Vete y piénsalo. Cuando regreses y me digas que ya le ves el uso, a lo mejor te dejo destruirla.

La junta de los lunes era una cerca de Chesterton. Parecía que servía para intercambiar información, y para eso era malísima. Pero en realidad servía para otras cosas que nadie había escrito en ningún lado: para que doce personas se vieran la cara una vez a la semana, para que los problemas chicos salieran antes de volverse grandes, para que la persona que siempre sabía qué estaba pasando pudiera saberlo. Nadie lo sabía porque nunca había hecho falta saberlo. Funcionaba sin que nadie entendiera por qué funcionaba.

Y aquí está lo incómodo. Casi todas las cosas que funcionan en un equipo, en una familia o en una empresa funcionan así: por razones que nadie ha puesto por escrito. Por eso son tan fáciles de romper con buena intención. El que las rompe casi nunca es el cínico, al que nadie le hace caso. Es el que tiene razón en algo, tiene la energía para cambiarlo y tiene las mejores intenciones.

Ojo, porque la cerca de Chesterton tiene un lado oscuro, y se usa mucho. "Siempre se ha hecho así" es exactamente la frase que dice alguien que se esconde detrás de una cerca para no cambiar nada. Hay juntas que de verdad no sostienen nada, procesos que solo existen porque nadie se atreve a firmar su muerte, reglas cuyo único propósito era proteger a alguien que ya se jubiló. Chesterton no dice que no se quite la cerca. Dice que primero se averigüe para qué estaba. A veces la respuesta es "para nada", y entonces se quita sin culpa. Lo que no se vale es saltarse la pregunta.

Y la pregunta casi nunca la puede contestar el que llegó a arreglar. La contesta el que lleva años brincando la cerca todos los días. En el caso de la junta, la persona que renunció sabía perfectamente para qué servía. Nadie le preguntó. Lo más probable es que ni ella misma lo hubiera puesto en palabras hasta que le hizo falta.

Todos hemos sido ese jefe alguna vez, aunque no mandáramos a nadie. El que reorganizó la cocina de su mamá para que "fuera más práctica". El que cambió las reglas del grupo de amigos. El que arregló algo que no estaba descompuesto porque no entendía para qué estaba así. El problema nunca fue la mala intención. Fue el tamaño del cambio.

El lunes en que llegó la IA

Todo esto sería una anécdota de oficina si no estuviera a punto de pasar a escala.

En muchas empresas, un lunes cualquiera, llega un correo: a partir de hoy, todos tienen acceso a una herramienta de inteligencia artificial. Para ahorrarles trabajo. Para que puedan dedicarse a lo importante. Y la intención es buena, y la herramienta es buena, y la cuenta de horas ahorradas suena a muchísimo, igual que la de la junta.

Lo que nadie calcula es qué cercas de Chesterton se van a caer ese mismo lunes. El reporte semanal que ahora escribe la IA era, quizá, el único momento en que el analista se detenía a pensar qué había pasado en la semana. El correo largo que ahora se redacta en diez segundos era, quizá, la forma en que el cliente sabía que alguien se había tomado la molestia. La tarea del practicante que ahora hace la máquina era, quizá, la forma en que el practicante aprendía el oficio para dejar de ser practicante. Nadie puso eso en el análisis de retorno de inversión, porque no estaba escrito en ningún lado.

No es un argumento contra la IA. Popper no estaba en contra del cambio: estaba en contra del cambio que no deja aprender. La pregunta no es si meter la herramienta, sino de qué tamaño meterla. Un equipo, no toda la empresa. Una tarea, no todas. Un mes mirando qué se rompe, antes del siguiente paso.

Imagina la versión gradual. El mismo lunes, en lugar del correo para toda la empresa, un solo equipo empieza a usar la herramienta para una sola tarea: los reportes semanales. Alguien, con nombre y apellido, se encarga de mirar qué cambia. A las cuatro semanas se sientan a platicar. Se ahorraron horas, sí. Y también descubrieron que el analista ya no sabe explicar qué pasó en la semana, porque ya no lo escribe él. Entonces ajustan: la IA hace el borrador, pero el analista lo defiende en cinco minutos frente al equipo. Eso no aparecía en ningún plan. Salió de mirar.

Luego el siguiente equipo. Luego la siguiente tarea. Cada paso deja una lección que el paso gigante habría enterrado debajo de cien cambios simultáneos.

Es menos emocionante. No se presume en una conferencia. Pero es la diferencia entre descubrir a tiempo que la junta de los lunes sostenía algo, y descubrirlo en una entrevista de salida.

La Cultura de Banks aprendió esa lección de la peor manera, con una guerra que no quería. Nosotros tenemos la suerte de que nuestras cercas son más pequeñas.

Lo que vuelve tan incómoda A barlovento es que la Cultura no se equivocó por maldad. Se equivocó por estar demasiado segura de qué era lo mejor para otros. Y eso, pensándolo bien, es mucho más difícil de perdonarse, porque la próxima vez vas a volver a estar seguro.

¿Qué cerca quitaste esta semana sin preguntar para qué estaba?