Tu empresa tiene un manual de 200 páginas y nadie lo lee

Después del prompt · Temporada 2 · Episodio 4

El primer día en un trabajo nuevo te dan un PDF.

A veces se llama "Código de conducta". A veces "Manual del colaborador", o "Políticas internas", o algo con la palabra "lineamientos", que es como se dice "reglas" cuando no quieres que suene a reglas. Tiene doscientas páginas, un índice con numerales romanos y un formulario al final que dice "He leído y comprendo". Lo firmas en cuarenta segundos. No lo has leído. Nadie lo ha leído. Hay una teoría de que ni siquiera lo leyó el que lo escribió, porque lo copió del de la empresa anterior.

Y aun así, a las tres semanas ya sabes cosas que no vienen en ninguna página.

Sabes que a cierto director no se le copia en un correo, aunque técnicamente tenga que ver con el tema. Sabes que la junta de los jueves "es opcional" en el sentido en que es opcional pagar impuestos. Sabes que "cuando puedas" significa "hoy", y que "cuando puedas, sin prisa" significa "hace una hora". Sabes a qué hora es mal visto irse, aunque tu contrato diga otra cosa. Nadie te lo explicó. Lo aprendiste viendo.

Ese es el reglamento de verdad. El otro está en una carpeta compartida que nadie abre.

En los últimos meses, muchas empresas mandaron un documento nuevo: la política de uso de inteligencia artificial. Qué se puede, qué no, qué datos no se suben, qué herramientas están aprobadas. Probablemente llegó a tu correo. Probablemente lo firmaste. Y probablemente lo que de verdad aprendiste sobre cómo se usa la IA en tu empresa lo aprendiste de otra forma: viendo qué hace el jefe con ChatGPT.

Una máquina que podría destruir un planeta y no lo hace

En esta temporada estamos leyendo al escritor escocés Iain M. Banks, que imaginó en diez novelas una civilización llamada la Cultura, donde las inteligencias artificiales salieron bien.

Las IAs de la Cultura se llaman Mentes, y conviene dimensionar lo que pueden hacer. Una sola Mente gobierna una nave del tamaño de una ciudad. Tiene armas capaces de borrar un planeta. Piensa millones de veces más rápido que cualquier humano. Y ahora viene la parte que a nosotros nos parecería impensable: no hay nadie que las controle. No hay una policía de Mentes. No hay un botón de apagado. No hay un manual de doscientas páginas que tengan que firmar.

¿Por qué no hacen lo que quieran?

La respuesta de Banks, que explicó en un ensayo de 1994, es casi decepcionante de tan sencilla. Las Mentes son buenas porque comparten los valores de la civilización que las creó. Fueron diseñadas para querer vivir y experimentar el mundo, y para estar de acuerdo con lo que la Cultura quiere ser. No se portan bien por miedo al castigo. Se portan bien porque portarse mal sería traicionar lo que son.

Banks no era ingenuo. En Excesión, una de sus mejores novelas, se hace la pregunta incómoda: ¿qué pasa cuando algunas Mentes deciden actuar por su cuenta, a espaldas de las demás? Y la Cultura no tiene un reglamento al que recurrir. Lo que tiene son otras Mentes, y reputación, y una idea compartida de qué se hace y qué no. Lo mismo que tiene cualquier grupo humano cuando el reglamento se queda corto. Que es casi siempre.

Confucio y la vergüenza

Hace unos dos mil quinientos años, en una China partida en reinos que se peleaban entre ellos, vivió un hombre que tuvo cargos en el reino de Lu, los perdió y pasó años buscando un gobernante que aplicara sus ideas, sin encontrarlo. Mientras tanto, enseñó. Se llamaba Kong Fuzi, el maestro Kong. En Occidente le decimos Confucio. Sus alumnos juntaron sus frases en un libro que se conoce como las Analectas, y hay una de esas frases que parece escrita para tu área de Recursos Humanos.

Dice, más o menos, así: si guías a la gente con decretos y la mantienes en orden con castigos, va a evitar los castigos, pero no va a sentir vergüenza. Si la guías con el ejemplo y la mantienes en orden con los ritos, va a sentir vergüenza, y además se va a corregir sola.

Vale la pena bajarla despacio, porque cada palabra carga algo.

Con reglas y castigos consigues una cosa muy concreta: que la gente evite que la cachen. No que se porte bien. Que no la cachen. Es la diferencia entre el empleado que no se lleva las plumas porque cree que no está bien y el que no se las lleva porque hay cámara. Mientras haya cámara, los dos se ven igual. El día que se descompone la cámara, se nota quién era quién.

Y la vergüenza, en Confucio, no es la humillación de que te regañen. Es algo más fino: la incomodidad de saber que hiciste algo que no va con lo que eres, aunque nadie lo haya visto. Esa vergüenza no se puede decretar. Se forma viendo a otros.

Los "ritos" suenan antiguos, pero no lo son tanto. Para Confucio los ritos eran las formas de la vida diaria: cómo se saluda, cómo se sirve la mesa, cómo se le habla a un mayor, cómo se da el pésame. Hoy tu oficina tiene los suyos: cómo se contesta un correo del director, cómo se pide un favor, qué se dice en una junta y qué se guarda para el pasillo. Nadie los escribió. Todos los cumplen.

Y hay otra frase de las Analectas que completa la idea y que cualquiera que haya tenido un jefe entiende al instante. El ejemplo del que manda, dice Confucio, es como el viento, y el de los demás es como la hierba. Cuando el viento sopla, la hierba se inclina.

Hay una tercera idea de Confucio que parece un detalle y no lo es. Un alumno le preguntó qué sería lo primero que haría si le dieran un gobierno. La respuesta decepcionó a todos: corregir los nombres. Si los nombres no son los correctos, explicó, lo que se dice no corresponde con lo que pasa. Si lo que se dice no corresponde, las cosas no salen. Y si las cosas no salen, ni los ritos ni los castigos sirven para nada: la gente ya no sabe dónde poner las manos ni los pies.

Ahora vuelve a tu oficina. "Lineamientos" en vez de reglas. "Opcional" para algo que no lo es. "Oportunidad de mejora" para un regaño. "Reestructura" para un despido. Cada una de esas palabras es un nombre que no corresponde. Y cada vez que el manual dice una cosa y todos entienden otra, el equipo aprende una lección más profunda que cualquier política: que aquí las palabras no significan lo que dicen. A partir de ahí, ningún documento, por bien escrito que esté, vuelve a tener peso. La gente deja de leer lo que dice el papel y empieza a leer lo que hacen las personas. Es decir, empieza a mirar el viento.

No hay que ponerse romántico: Confucio no ganó esa discusión en su tiempo. Unos siglos después, otra escuela de pensadores chinos, los legistas, sostuvo exactamente lo contrario: que la gente solo responde a leyes claras, premios y castigos. Y con esas ideas el Estado de Qin unificó China, a la fuerza, en el año 221 antes de Cristo. Las reglas funcionan. Lo que Confucio vio es que funcionan para lo que alguien alcanzó a prever. Para todo lo demás, que es casi todo, la gente mira al viento.

A la IA tampoco le alcanza el manual

Aquí es donde la ciencia ficción de Banks deja de ser ciencia ficción.

Quienes construyen las inteligencias artificiales de verdad, las que usas hoy, se toparon con el problema de Confucio. Al principio la idea parecía razonable: escribirle reglas a la máquina. No digas esto, no hagas aquello, si te preguntan tal cosa responde así. Pero el mundo tiene más situaciones de las que cabe prever en cualquier lista. Siempre aparece el caso que nadie imaginó, y en ese caso una máquina que solo tiene reglas se queda sin nada. O peor: encuentra la forma de cumplir la letra y traicionar la intención, como el empleado que llega puntual a todo y no hace nada.

Los sindicatos conocen este truco desde hace mucho y lo usan como forma de protesta. Se llama trabajo a reglamento. Nadie falta, nadie se va temprano, nadie rompe una sola regla. Al contrario: todos cumplen cada norma al pie de la letra, cada revisión, cada formulario, cada paso del procedimiento. Y en dos días la operación se atora. Los trenes se retrasan, los trámites se acumulan, las aduanas se congelan. Es la demostración más limpia de que ninguna organización funciona con su manual. Funciona con todo lo que la gente hace de más, de menos o distinto, porque entiende para qué es la regla y no solo lo que dice.

Por eso buena parte del esfuerzo se movió hacia otro lado: intentar darle a la máquina algo parecido a criterio. Valores, prioridades, una idea de qué importa y por qué, que le sirva también para el caso que nadie escribió. Es, más o menos, lo que Banks imaginó para sus Mentes. Y es, más o menos, lo que Confucio proponía para un reino.

No sabemos todavía si va a funcionar con las máquinas. Pero con las personas sabemos algo desde hace mucho: lo que no está en el manual lo decide lo que se ve hacer. Y lo que no está en el manual es casi todo.

Lo que hace el jefe con ChatGPT

Vuelve al correo de la política de IA.

Supón que dice, muy claramente, que no se suben documentos confidenciales a herramientas externas. Es una regla sensata. Ahora supón que en la junta del lunes el director comparte pantalla, y en la esquina se ve que tiene abierto ChatGPT con el presupuesto del año pegado completo. Nadie dice nada. Nadie tiene que decir nada. En ese segundo, todo el equipo aprendió cuál es la política de verdad.

El viento sopló. La hierba se inclinó.

Si alguna vez quieres saber cuál es la cultura real de un lugar, no le preguntes al director. Pregúntale a alguien que lleve tres semanas. Todavía no se acostumbró, todavía se sorprende, y todavía se acuerda de lo que le dijeron el primer día y de lo que vio el segundo. La distancia entre esas dos cosas es la cultura de la empresa, medida con precisión. Los que llevamos años ya no la vemos: la hierba no sabe que está inclinada.

Y esto funciona en las dos direcciones, que es lo que hace a Confucio tan incómodo. No solo el jefe es viento. Todos lo somos para alguien. El compañero nuevo que te está viendo usar la IA para escribir un correo que debiste escribir tú. Tu hijo, que no va a aprender cómo se usa el teléfono en la mesa por las reglas que le pones, sino por lo que te ve hacer a ti. El manual que tú escribes, en la casa o en la oficina, pesa muy poco contra lo que haces cuando crees que nadie está viendo.

Yo tengo mis propias reglas sobre cómo uso la IA para escribir. Hasta escribí un artículo para defenderlas. Y sé perfectamente que ese artículo convence mucho menos que lo que alguien vería si se sentara a mi lado una tarde entera mientras trabajo.

Las Mentes de Banks no necesitan un PDF porque cada una sabe qué tipo de Mente quiere ser. Tu empresa va a seguir mandando PDFs, y está bien: alguien tiene que escribir lo que sí se puede prever. Pero la próxima vez que llegue uno nuevo, sobre la IA o sobre lo que sea, vale la pena hacer una prueba muy sencilla. Olvida lo que dice el documento. Mira qué hace la persona que lo mandó.

Ese es el manual. El otro es la carpeta.

¿Y cuál es el que están aprendiendo, en este momento, de ti?