Sistemas de decisión para energía e infraestructura crítica.
Donde el error se mide en apagones y no en clics, la inteligencia tiene que ser conservadora por diseño.
En la mayoría de los productos digitales, un error se paga con una molestia: un clic perdido, una recomendación tonta. En energía e infraestructura crítica, un error se paga con un apagón, un corte de agua o un riesgo para la seguridad de las personas. Esa asimetría lo cambia todo.
Un sistema de decisión para este terreno no puede diseñarse con la misma mentalidad que una app de consumo. Su objetivo no es maximizar aciertos espectaculares, sino minimizar errores catastróficos. Es una ingeniería de la prudencia.
Conservador por diseño
Ser conservador por diseño significa que, ante la duda, el sistema prefiere la opción reversible. Que expone su nivel de confianza en vez de esconderlo. Que escala a un humano cuando sale de su zona segura, en lugar de arriesgar una decisión que no puede justificar.
- Preferir siempre la acción reversible sobre la irreversible.
- Exponer la incertidumbre en lugar de ocultarla tras un número.
- Escalar a criterio humano cuando la situación sale de lo previsto.
Confiable antes que brillante
El mejor sistema de decisión para una red eléctrica o un sistema de agua no es el más avanzado, sino aquel en el que los operadores pueden confiar a las tres de la mañana. Esa confianza se gana con transparencia, con límites claros y con años de comportamiento predecible, no con demostraciones deslumbrantes.
Esta prudencia tiene un costo que conviene aceptar de frente: un sistema conservador a veces deja pasar una optimización que uno más audaz habría capturado. En infraestructura crítica, ese suele ser un buen negocio. Se renuncia a algunas ganancias marginales a cambio de reducir de forma drástica la probabilidad de un fallo mayor. La asimetría de las consecuencias justifica la asimetría del diseño.
Nada de esto significa renunciar a la inteligencia. Significa ponerla al servicio de la continuidad del servicio, que es lo que la ciudadanía realmente espera de una red eléctrica o de un sistema de agua. La mejor tecnología, en este terreno, es la que desaparece: la que sostiene la operación sin que nadie tenga que pensar en ella.
En infraestructura crítica, la pregunta no es qué tan inteligente es el sistema, sino qué tan bien sabe cuándo no decidir.
Referencias
- Principios de diseño de sistemas seguros y tolerantes a fallos en entornos críticos.
Ingeniería de IA
Trabaja en el diseño de sistemas de decisión y en la ingeniería que convierte modelos en capacidades operativas confiables.