Gobernar algoritmos: el comité que su empresa todavía no tiene.

El director de finanzas descubrió el sistema por una queja. Un cliente de años reclamó que su línea de crédito se había recortado a la mitad sin aviso, y la cadena de correos para explicarle terminó en un callejón: el recorte lo había ejecutado un modelo de riesgo que el proveedor de software actualizó en algún momento del trimestre. Nadie en la empresa sabía qué variables pesaba, nadie había aprobado el cambio, y —el detalle que quitó el sueño— nadie pudo decir cuántas decisiones parecidas había tomado el sistema ese mes. La respuesta resultó ser: todas.

La escena se repite con variaciones en cualquier organización que haya comprado software operativo en la última década. Los sistemas que fijan precios dinámicos, asignan turnos, priorizan cobranza, aprueban descuentos o despachan rutas no esperaron a que la casa tuviera una postura sobre inteligencia artificial: llegaron dentro de las plataformas, activados por defecto, decidiendo desde el primer día. La organización cruzó la frontera del gobierno algorítmico sin enterarse de que había frontera.

Esta pieza de la serie Criterio Ejecutivo propone el órgano que falta: el que gobierna a los decisores no humanos. No como comité de ética abstracta ni como célula de innovación, sino como lo que es: una extensión del gobierno corporativo hacia una población de empleados nueva — incansables, veloces, literales y sin criterio propio — que ya está en la nómina aunque no aparezca en ella. Las siete preguntas del consejo cubrieron el momento de la compra; esto cubre todos los días siguientes.

El empleado que nadie entrevistó

La metáfora del empleado es útil porque activa intuiciones de gobierno que ya existen. Si mañana la empresa contratara a alguien que tomará cuarenta mil decisiones de precio al mes, el proceso sería exhaustivo: entrevistas, referencias, período de prueba, jefe directo, evaluación de desempeño, límites de autoridad escritos. El sistema que hace exactamente eso entró por una orden de compra de software, sin entrevista, sin jefe asignado y con límites que nadie redactó. No es que el estándar para máquinas deba ser más alto que para personas; es que hoy es incomparablemente más bajo, y las máquinas deciden más veces por hora.

La objeción refleja —«pero el sistema solo ejecuta reglas que alguien configuró»— subestima tres realidades operativas. Primero, las configuraciones las hizo alguien que ya no está, con supuestos de un mercado que ya cambió. Segundo, los proveedores actualizan modelos y parámetros por fuera del control de la casa, como descubrió el director del primer párrafo. Tercero, la interacción entre sistemas produce decisiones que nadie configuró: el modelo de precios reacciona al de inventario, que reacciona al de compras, y el resultado agregado es una política comercial emergente que no está escrita en ningún lado.

El punto de partida del gobierno no es filosófico sino contable, el mismo gesto que abre el portafolio de decisiones: contar. ¿Cuántos sistemas toman o recomiendan decisiones en esta casa, sobre qué deciden, con qué autoridad y bajo la responsabilidad de quién? La primera vez que una organización hace este censo, el número típico sorprende a su propia dirección — y la columna de responsables llega medio vacía.

El inventario de decisores automáticos

El censo tiene una plantilla natural de cinco columnas por sistema. Qué decide: la población de decisiones, en lenguaje de negocio, no de producto —«recorta líneas de crédito de clientes activos», no «módulo de risk scoring»—. Con qué autoridad: ¿decide y ejecuta, decide y un humano confirma, o solo recomienda? La distinción es la médula del gobierno y suele estar sin documentar. Quién responde: un nombre, con el mismo estándar de dueño que exige la anatomía. Qué límites tiene: los montos, porcentajes o poblaciones donde su autoridad termina y escala a una persona. Y cuándo se revisó por última vez contra la realidad: no si funciona técnicamente, sino si sigue decidiendo bien para el negocio de hoy.

Dos hallazgos se repiten en casi todo primer inventario y merecen anticiparse. El primero: sistemas comprados como asistentes que operan como autoridades, porque el paso de confirmación humana se desactivó en algún pico de trabajo y nunca se reactivó — la confirmación que era control se volvió clic reflejo mucho antes de desaparecer. El segundo: el dueño nominal es tecnología, lo cual significa que la decisión de negocio no tiene dueño de negocio. Sistemas mantiene la tubería; nadie gobierna el agua.

Límites de autoridad: la pieza que convierte software en subordinado

Un empleado con autoridad ilimitada no es un empleado: es un socio no reconocido. Lo mismo aplica al sistema. La herramienta central del gobierno algorítmico es el límite de autoridad escrito: hasta qué monto decide solo, sobre qué poblaciones jamás decide solo, qué combinación de condiciones lo obliga a escalar. Es la traducción operativa del principio de supervisión humana significativa que fijamos en nuestra carta de ética: el humano en el circuito debe estar donde el daño potencial lo justifica, no espolvoreado por todas partes hasta volverse ornamental.

El diseño de límites tiene su propia trampa conocida: ponerlos tan estrechos que todo escala, con lo cual la fila de excepciones ahoga a los supervisores y la supervisión degenera en aprobar en lote — el clic reflejo otra vez, ahora institucionalizado. El límite bien puesto se calibra con datos del propio sistema: dónde se concentra el error, dónde el costo del error es asimétrico, dónde la decisión toca poblaciones sensibles. Se ajusta en revisión periódica, como se ajusta la autoridad de un gerente que demostró criterio o dejó de demostrarlo.

El órgano: quién, cada cuánto, con qué poder

Con inventario y límites, el órgano de gobierno casi se diseña solo. Composición: el dueño de negocio de cada familia de decisiones automatizadas, quien opera los sistemas, y una voz independiente de las dos anteriores — riesgo, auditoría o equivalente — cuyo encargo explícito es el caso en contra, la misma contraparte institucional que defendimos para los comités humanos. Los algoritmos no tienen sesgos de vanidad, pero sus compradores y operadores sí: el sistema caro se defiende solo en la mente de quien lo compró.

Cadencia: trimestral para la revisión regular —qué decidió la población de sistemas, dónde se concentraron errores y quejas, qué límites se tocaron, qué cambió el proveedor—, e inmediata ante disparadores definidos: actualización mayor de un modelo, incidente con impacto en clientes, cambio regulatorio, o la incorporación de cualquier sistema decisor nuevo, que debe nacer inventariado o no conectarse. Poder real: el órgano puede recalibrar límites, exigir la reactivación de confirmaciones humanas, vetar despliegues y ordenar apagados. Un comité que solo opina es la versión algorítmica del taller de sesgos: conversación sofisticada, conducta idéntica.

Nótese qué no está en la propuesta: un comité de ética de la inteligencia artificial como entidad separada, con filósofos invitados y sin autoridad presupuestal. No porque la ética sobre —nuestra posición al respecto es pública— sino porque la ética sin poder de veto es relaciones públicas. Las restricciones éticas viven mejor como cláusulas del mismo órgano que gobierna todo lo demás: líneas rojas en el inventario, poblaciones protegidas en los límites, derecho a explicación en los requisitos de cada sistema. Un solo órgano con dientes vale más que dos, uno de los cuales sonríe.

Los tres reportes que el órgano necesita

El gobierno regular vive de tres artefactos, todos producibles con instrumentación modesta. El reporte de deriva: cómo han cambiado las decisiones del sistema en el tiempo —distribuciones, no anécdotas— para detectar al empleado digital que ya no decide como cuando se le contrató, sea porque el mundo cambió o porque el proveedor lo cambió. El reporte de excepciones: qué escaló, qué se revirtió manualmente y qué patrón hay en las reversiones, porque cada reversión humana es un voto informal contra el criterio del sistema y su acumulación es la mejor señal temprana de descalibración. Y el reporte de frontera: qué decisiones nuevas están tomando los sistemas que el trimestre pasado no tomaban — la autoridad algorítmica también sufre expansión silenciosa, funcionalidad activada por defecto en cada actualización.

• Deriva: ¿sigue decidiendo como cuando lo aprobamos? Distribuciones comparadas, trimestre contra trimestre.
• Excepciones: ¿cuántas veces los humanos lo corrigieron, y en qué patrón? Las reversiones son votos.
• Frontera: ¿qué decide hoy que no decidía ayer? La autoridad no aprobada crece por defecto, no por malicia.

La cadena de custodia del criterio

Detrás de cada sistema decisor hay una cadena de manos que moldearon su criterio, y el gobierno serio exige poder reconstruirla. El proveedor entrenó el modelo con datos de un mercado que quizá no es el nuestro. Un integrador lo configuró según entendió el negocio en las tres semanas del proyecto. Un analista interno ajustó umbrales durante una contingencia y lo dejó anotado en un correo. Cada eslabón tomó micro-decisiones de diseño que hoy operan como política de la casa, y cuando el sistema produce un resultado extraño, la pregunta «¿por qué decidió esto?» requiere la cadena completa — que típicamente no existe por escrito en ningún lado.

La cadena de custodia se documenta con la misma lógica del expediente de decisión: cada cambio material al criterio de un sistema —reentrenamiento, ajuste de umbral, nueva variable, actualización del proveedor— deja registro de qué cambió, quién lo autorizó, con qué justificación y qué se esperaba que mejorara. No es carga nueva para el equipo técnico, que suele llevar bitácoras de despliegue; es elevar esa bitácora a documento de gobierno, legible por el dueño de negocio, y conectarla con la revisión trimestral. El día del incidente —o de la pregunta del regulador— la diferencia entre tener cadena y no tenerla se mide en semanas de reconstrucción forense.

Hay un beneficio menos defensivo: la cadena de custodia revela deriva de gobierno antes de que sea deriva estadística. Cuando el registro muestra que los umbrales de un sistema se han ajustado seis veces en un año, todas durante picos operativos y ninguna revertida después, la organización descubre que su política de crédito —o de precios, o de despacho— la está escribiendo la presión de temporada, un ajuste de urgencia a la vez. Ese patrón no lo detecta ningún monitor de desempeño del modelo, porque cada ajuste individual funcionó. Lo detecta la lectura de gobierno sobre el registro completo.

Cuando los sistemas negocian entre sí

El inventario por sistema, con todo y sus cinco columnas, tiene un punto ciego estructural: las decisiones que no toma ningún sistema en particular sino la conversación entre varios. El modelo de precios reacciona al nivel de inventario; el sistema de compras reacciona al precio; el de promociones reacciona a la rotación que los otros dos produjeron. Ninguno decidió la política comercial resultante — emergió del bucle, como emergen los patrones de tráfico de las decisiones de miles de conductores. Y los bucles tienen dinámicas propias: amplificaciones, oscilaciones, carreras hacia el fondo que ningún componente individual exhibe en pruebas.

El caso clásico fuera de las empresas es conocido: episodios de mercados financieros donde algoritmos respondiéndose entre sí produjeron en minutos movimientos que ningún humano ordenó. Las versiones corporativas son menos espectaculares y más frecuentes — la guerra de precios contra el propio canal, el inventario que oscila entre exceso y quiebre al ritmo de dos sistemas compensándose, el cliente que recibe tres comunicaciones contradictorias el mismo día porque tres motores lo clasificaron distinto. El gobierno maduro agrega al inventario una vista de interacciones: qué sistemas se alimentan de las salidas de cuáles, y quién es el dueño de cada bucle, no solo de cada nodo.

La herramienta mínima para esta vista es un mapa de flujos de decisión —qué salida de qué sistema es entrada de cuál otro— y una regla de diseño tomada de la ingeniería de control: todo bucle cerrado entre sistemas decisores necesita un amortiguador explícito, sea un límite de velocidad de cambio, un humano en el circuito del bucle (no de cada nodo), o una banda muerta que impida reaccionar a variaciones pequeñas. Los bucles sin amortiguador no están mal diseñados: no están diseñados, que es peor, porque su comportamiento lo fijó el azar de las integraciones.

Qué mirar cada trimestre: el tablero del órgano

Los tres reportes descritos —deriva, excepciones, frontera— se condensan para la sesión trimestral en un tablero de una página por familia de decisiones, y vale la pena especificarlo porque el género tiende a la inflación: veinte métricas técnicas que nadie de negocio lee. La página útil tiene cuatro renglones. Volumen y concentración: cuántas decisiones tomó la familia y si se concentraron en poblaciones inusuales. Fricción humana: tasa de reversiones y escalamientos, con su tendencia. Deriva material: los dos o tres desplazamientos de distribución que el equipo técnico juzga relevantes, traducidos a lenguaje de negocio. Y novedades de autoridad: qué empezó o dejó de decidir la familia este trimestre, por cambio propio o del proveedor.

La disciplina de la página única no es estética: es un mecanismo de gobierno. Obliga al equipo técnico a jerarquizar —traducir es decidir qué importa— y permite al órgano comparar trimestres de un vistazo, que es como se detectan las tendencias lentas. El anexo técnico completo existe y se consulta cuando un renglón lo amerita; la página es el contrato de atención entre quienes operan los sistemas y quienes responden por ellos. Donde ese contrato no existe, el gobierno algorítmico degenera en una de dos patologías simétricas: la sala que aprueba sin entender o la sala que no aprueba nada por no entender.

Objeciones previsibles

«Esto frenará la adopción de tecnología.» La experiencia apunta al revés: las organizaciones sin gobierno adoptan rápido y retroceden más rápido, porque el primer incidente serio sin responsable ni explicación produce una prohibición pendular que congela todo por años. El gobierno es lo que hace sostenible la adopción, igual que los frenos son lo que permite conducir rápido. La casa que puede explicar cada decisión automatizada es la que puede defender la siguiente automatización ante su consejo, su regulador y sus clientes.

«No tenemos el talento técnico para auditar modelos.» No hace falta para empezar, y esperar a tenerlo es la excusa perfecta para no empezar. Las cinco columnas del inventario, los límites de autoridad y los tres reportes se gobiernan con criterio de negocio; la auditoría técnica profunda se contrata cuando el inventario dice dónde vale la pena. El error de secuencia es contratar la auditoría sofisticada de dos sistemas mientras otros treinta operan sin dueño.

«Nuestros proveedores no nos dan esa visibilidad.» Entonces el inventario acaba de producir su primer resultado: la lista de proveedores a los que se les compró autoridad sin comprarles rendición de cuentas. Esa lista tiene valor contractual inmediato —las renovaciones son el momento de corregir— y valor estratégico: es exactamente la dependencia sin salida contra la que advertimos en soberanía tecnológica. Quien no puede auditar ni apagar, no gobierna; renta la operación de su propio negocio.

El primer trimestre: secuencia realista

Para que la propuesta no se quede en arquitectura, la secuencia de arranque que hemos visto funcionar cabe en un trimestre. Semanas uno a cuatro: el censo, empezando por las tres áreas donde más se automatizó —típicamente comercial, riesgo y operaciones— y aceptando que estará incompleto; el inventario es un documento vivo, no una tesis. Semanas cinco a ocho: dueños y límites para la docena de sistemas de mayor impacto, con la matriz de autoridad firmada por cada dueño de negocio — la firma importa: convierte una lista técnica en una delegación consciente.

Semanas nueve a doce: la primera sesión del órgano, deliberadamente modesta — revisar el censo, confirmar límites, elegir los dos sistemas que recibirán los primeros reportes de deriva y excepciones. La tentación de instrumentarlo todo antes de sesionar es la trampa habitual: el órgano aprende a gobernar gobernando, y los reportes se refinan con el uso. Al cierre del trimestre, la organización tiene lo que la inmensa mayoría no tiene: sabe qué decide en su nombre, quién responde y dónde están los huecos. Todo lo demás es mejora incremental sobre esa base.

¿Y las organizaciones que ya tienen algo —un comité de datos, una política de IA, un responsable de cumplimiento? La instrucción no es demoler sino auditar contra las cinco columnas: casi siempre existe la política sin el inventario, o el comité sin poder de veto, o el responsable sin acceso a los sistemas reales. El diagnóstico honesto de lo existente contra la lista corta de esta pieza toma una semana y suele ser el argumento interno que desbloquea el resto.

El costo total del arranque es semanas-persona de coordinación, no licencias ni consultores. El activo que produce —el inventario firmado— tiene además un valor de mercado inmediato: es exactamente lo que piden aseguradoras al cotizar pólizas cibernéticas, auditores al evaluar control interno y compradores en cualquier proceso de adquisición. La casa que lo tiene negocia todas esas conversaciones desde otra posición.

Un sistema sin dueño, sin límites y sin revisión no es automatización. Es delegación sin acta, a un empleado que nadie entrevistó.

Lo que esta pieza propone no es desconfianza hacia la automatización — es la condición de su crecimiento. Los empleados digitales van a multiplicarse en cada casa durante la próxima década; la única pregunta abierta es si llegarán a una organización que sabe recibirlos —con puesto, jefe y evaluación— o a una que los acumula como acumuló hojas de cálculo: sin lista, sin dueño y con sorpresas programadas.

La ventana para construir este órgano con calma se está cerrando por dos lados: la población de sistemas decisores crece con cada renovación de software, y los reguladores de varios sectores ya preguntan quién responde por las decisiones automatizadas. La organización que llegue a esa pregunta con inventario, dueños y actas contestará en una tarde. La que llegue sin nada contestará con abogados, en el peor momento, sobre sistemas que conocerá esa semana. Como casi todo en esta serie, la diferencia no es tecnológica. Es haber decidido a tiempo mirar lo que ya estaba decidiendo.