VOCES LEAN TECH: Por qué deberíamos diseñar empresas centradas en el ser humano en la era de la IA

En esta columna, tres expertos en metodología Lean y tecnología responden a la misma pregunta crucial que marca el debate actual sobre tecnología e inteligencia artificial. Este mes, analizamos por qué crear organizaciones centradas en las personas es más importante que nunca.

La pregunta

Jidoka fue la forma en que Sakichi Toyoda aseguró que la tecnología asumiera las tareas que las máquinas realizan bien, para que las personas pudieran concentrarse en lo que solo ellas pueden hacer. Más de un siglo después, las organizaciones se enfrentan nuevamente a una disyuntiva: ¿debe la tecnología reemplazar a los humanos o potenciarlos? A medida que la IA transforma el trabajo a gran escala, ¿cómo deben los líderes diseñar activamente organizaciones donde las personas prosperen en lugar de simplemente sobrevivir al cambio tecnológico? ¿Y qué nos dice Lean sobre cómo se ve ese diseño en la práctica? (Por cierto, este es el tema de la Lean Global Connection de este año).

Las respuestas

Theodor Panayotov

La historia del telar de Sakichi Toyoda suele contarse como un ejemplo de tecnología al servicio de las personas. Merece una narración más honesta. El telar Tipo G se detenía automáticamente al romperse un hilo, lo que permitía a un tejedor supervisar docenas de máquinas en lugar de una sola. Este invento hizo posibles dos escenarios: menos tejedores realizando el mismo trabajo, o los mismos tejedores realizando un trabajo mejor. El telar era indiferente a cuál de las dos opciones era la correcta. Lo que se convertiría en el Sistema de Producción Toyota fue lo que sistematizó la segunda opción: la atención humana liberada se canalizó deliberadamente hacia la resolución de problemas, la mejora continua y el juicio que ninguna máquina podía realizar. La excelencia nunca fue una propiedad de la tecnología en sí, sino del diseño construido a su alrededor.

Nos encontramos ante la misma encrucijada con la IA, a una escala mucho mayor, y la mayoría de las organizaciones optan por la solución por inercia. Implementan la IA en estructuras sin modificar, y sus empleados terminan con el peor híbrido: supervisando la producción de máquinas sobre las que no tienen autoridad, a ritmo de máquina y con responsabilidad humana.

La metodología Lean nos muestra cómo es el diseño deliberado, y es incómodamente concreta.

Hagan lo que Sakichi hizo: separen explícitamente el trabajo de la máquina del trabajo humano, rol por rol. Detección, recuperación, redacción y monitorización de patrones para la máquina. Juicio, excepciones, relaciones y mejora para los humanos. La mayoría de las implementaciones de IA omiten este paso por completo; los roles se dejan erosionar en lugar de rediseñarse.

Mantengan la dirección de autoridad del jidoka. El telar se detenía y llamaba a una persona; la anomalía fluía hacia el juicio humano. Lo mismo debe aplicarse a la IA: la persona más cercana al trabajo debe poder (y se debe esperar que lo haga) detener, cuestionar y corregir el algoritmo. Una organización donde nadie puede accionar el cable andon de la IA no ha automatizado la inteligencia. Ha automatizado la cadena de producción y mantenido la vigilancia.

Reinviertan la capacidad liberada donde sea visible. Si las horas que ahorra la IA se convierten discretamente en objetivos de personal, la gente se resistirá racionalmente y ocultará lo que sabe. Si esas horas se convierten visiblemente en tiempo de kaizen, capacitación y contacto con el cliente, la gente aportará a la máquina sus mejores problemas.

Finalmente (y esto es lo que veo a diario al desarrollar IA para organizaciones nucleares, farmacéuticas y de defensa), considere el juicio experto como un activo, no como un coste. El conocimiento tácito de un operador experimentado es precisamente lo que la IA no puede reemplazar, y precisamente lo que una implementación descuidada destruye: mediante la pérdida de habilidades ahora y mediante la jubilación sin reconocimiento posterior. El objetivo del diseño es obtener, preservar y escalar ese juicio —el problema en el que trabajamos en Ethermind— y es más difícil que cualquier modelo.

¿Debe la tecnología reemplazar a las personas o potenciarlas? Esa es la pregunta equivocada. La tecnología hará lo que la organización en torno a ella esté diseñada para hacer. Sakichi lo entendió hace un siglo. Los líderes cuyos equipos prosperen en la era de la IA serán aquellos que diseñen para potenciar su desempeño de manera intencionada, que es precisamente el tema central de la Lean Global Connection de este año.

Marie-Pia Ignace

¿Debería la tecnología reemplazar a las personas o complementarlas? Planteada así, esta pregunta invita a una respuesta moral, y —al menos en teoría— todos conocen la correcta. Sin embargo, resulta inútil desde el punto de vista operativo, ya que ningún ejecutivo anunciará abiertamente su intención de reemplazar a las personas con IA, y ningún proveedor afirmará que su producto empeorará el proceso.

En la práctica, existen cuatro tipos de relaciones entre humanos e IA. En el primero, las personas simplemente conectan sistemas defectuosos; esto es un desperdicio, no una complementariedad. En el segundo, supervisan la máquina mientras aprende; esto es útil, pero temporal. En el tercero, la IA gestiona los casos estándar, mientras que los humanos absorben la variabilidad y la complejidad reales. En esta columna, me gustaría explorar el cuarto tipo: cuando la máquina debe interrumpir su propio trabajo y transferir el caso en el momento en que aparece un defecto.

Aquí es donde las lecciones de Toyota cobran mayor relevancia. El jidoka de Sakichi Toyoda nunca fue una elección moral sobre la preservación de la dignidad humana. Era un dispositivo: un telar que se detenía cuando se rompía un hilo. No se trataba de un telar que tejiera mejor, ni de uno que simplemente alertara al operario, sino de uno que se negara a seguir produciendo tela defectuosa. Toyota denominó posteriormente a esto "autonomatización": automatización con toque humano. ¿Cuál sería el equivalente para la IA?

Existen dos situaciones en las que un sistema de IA puede fallar. La primera es al inicio, al malinterpretar la situación que está analizando; un problema de mejora del juicio, pero no el que se considera aquí. La segunda, más preocupante, ocurre durante la ejecución: la IA puede cometer un error elemental sin saberlo ni informarlo: leer mal una cantidad, asignar un pago al cliente equivocado o inventar una política de reembolso.

En el caso Moffatt contra Air Canada, un chatbot proporcionó una tarifa por duelo que no existía. Air Canada rechazó el reembolso y argumentó que el chatbot era una entidad jurídica independiente responsable de sus propias declaraciones. El juez no aceptó el argumento y declaró a la empresa responsable de la información publicada a través de él. (The CanLII Blog)

¿Cómo sucede esto? Un modelo de lenguaje es probabilístico, no determinista: si se repite el mismo caso dos veces, los resultados pueden divergir. Por lo tanto, cada acción de IA conlleva una probabilidad de error. Consideremos un flujo de trabajo de veinte acciones sucesivas realizadas con un 99% de fiabilidad: la fiabilidad de extremo a extremo se reduce a tan solo el 82%. Con un 99,5%, se reduce al 90,5%. En la mayoría de los procesos operativos, esto dista mucho de ser suficiente.

Un enfoque ingenuo sería preguntarle al modelo, o a un segundo modelo, si cree que está en lo correcto. Pero Sakichi no le preguntó al telar si creía que estaba tejiendo correctamente. Dado que no podemos luchar contra el no determinismo del modelo, necesitamos encontrar su equivalente digital: un hilo que se rompe, un peso que cae, un mecanismo que se detiene.

El ciclo de cotización a cobro es un proceso largo y crítico para las empresas, y ya contiene este tipo de hilos digitales. Una factura debe cuadrar. Un pago debe coincidir con una cuenta por cobrar existente. Una nota de crédito debe tener una causa referenciada. El calendario de pagos debe ajustarse a los plazos autorizados. Un cliente con saldo cero no debe recibir un aviso de cobro. No se trata de puntuaciones de confianza, sino de condiciones estrictas: verdaderas o falsas, comprobables sin consultar el modelo. Cualquiera de ellas puede fallar y, por consiguiente, detener el proceso.

Esta es la regla que la ola de IA viola sistemáticamente: un modelo que se verifica a sí mismo no verifica nada, y un segundo modelo que verifica al primero comparte sus puntos ciegos. Por lo tanto, los mejores sistemas necesitarán una arquitectura dual: IA para circular y transformar datos, y una capa determinista —irónicamente, al estilo de los sistemas de información tradicionales— para identificar el fallo y detener el proceso. No se trata de un modelo más fiable, sino de un modelo cuyos errores sean detectables por algo distinto a sí mismo.

La calidad es lo primero.

Erasto Meneses

La IA no exige a las organizaciones que elijan entre personas y tecnología. Exige a los líderes que rediseñen el trabajo para que ambos alcancen su máximo potencial.

Desde la perspectiva de Lean Tech, este es el verdadero desafío. La cuestión no es si la IA reemplazará a las personas, sino si los líderes están dispuestos a rediseñar los procesos, las decisiones y los sistemas de gestión en torno a las capacidades exclusivamente humanas.

Lean siempre nos ha enseñado que la tecnología debe potenciar el valor, nunca convertirse en el valor en sí misma. Jidoka nunca se trató de eliminar a las personas del sistema; se trataba de liberarlas de tareas repetitivas y predecibles para que pudieran aplicar su criterio, creatividad, colaboración y mejora continua donde más importa. La IA simplemente extiende este principio al trabajo del conocimiento.

Desafortunadamente, muchas organizaciones aún abordan la IA como una implementación tecnológica en lugar de una transformación organizacional. Automatizan procesos fragmentados, aceleran el desperdicio existente y celebran los aumentos de productividad sin cuestionarse si están creando más valor para los clientes o un trabajo más significativo para los empleados. Desperdiciar más rápido sigue siendo desperdicio.

Lean Tech ofrece un camino diferente. Comienza por comprender el problema antes de seleccionar la tecnología. Rediseña los flujos de valor antes de automatizarlos. Desarrolla a las personas a la par de las capacidades digitales. Y lo más importante, crea sistemas de gestión donde humanos e IA aprenden continuamente unos de otros en lugar de competir entre sí.

Las organizaciones que liderarán la próxima década no serán las que cuenten con la IA más avanzada. Serán aquellas capaces de diseñar intencionalmente sistemas donde la IA potencie el potencial humano, fortalezca la toma de decisiones, acelere el aprendizaje y permita a las personas dedicar más tiempo a resolver problemas complejos y a generar valor que solo los humanos pueden ofrecer.

La mayor responsabilidad de un líder hoy no es implementar la IA. Es diseñar organizaciones donde la tecnología enaltezca continuamente a las personas y donde las personas mejoren continuamente la tecnología. Esto no solo es coherente con el pensamiento Lean, sino que es la evolución natural de su propósito. En la era de la IA, las organizaciones más competitivas no serán las más automatizadas, sino las más centradas en las personas.