Ética operativa para sistemas que deciden.

Los códigos de ética suelen vivir en el mismo cajón que los valores corporativos: se citan en la inducción, se enmarcan en la recepción y no tocan una sola línea de código. Hoy publicamos el nuestro con una regla distinta: si un principio no cambia cómo se diseña, se prueba o se vende un sistema, no entra al documento.

El estándar completo está publicado en nuestra carta de ética. Aquí explicamos por qué tiene la forma que tiene.

Principios como restricciones, no como adjetivos

Adoptamos como punto de partida el enfoque que los laboratorios de seguridad en IA volvieron estándar: la tecnología debe ser útil, honesta e inocua, y el orden importa —cuando la utilidad choca con la seguridad, gana la seguridad. Pero un principio general solo obliga cuando se traduce a restricción operativa. Tres ejemplos de esa traducción:

• Honestidad sobre incertidumbre: ningún sistema de Aura presenta una estimación como certeza; la confianza se muestra, no se maquilla. Es la misma regla de prudencia que defendimos para infraestructura crítica.
• Reversibilidad por defecto: ante la duda, la acción recomendada es la que se puede deshacer. Lo irreversible exige firma humana.
• Trazabilidad: toda recomendación queda registrada con su justificación, como exige cualquier decisión que aspire a mejorarse.

Lo que adaptamos al contexto mexicano

Un estándar nacido en laboratorios de California necesita ajustes para un laboratorio que trabaja con gobiernos y sectores críticos en México. Añadimos tres compromisos que no suelen aparecer en las cartas globales: líneas rojas sectoriales —no construimos calificación social de personas ni vigilancia masiva de población—, soberanía de datos como derecho del cliente y no como cortesía, y derecho a explicación para quien resulte afectado por una decisión que un sistema nuestro ayudó a tomar.

La ética de un sistema no está en lo que su creador declara, sino en lo que el sistema se niega a hacer cuando nadie mira.

Sabemos lo que cuesta este estándar. Las líneas rojas descartan contratos reales; la honestidad sobre incertidumbre pierde licitaciones frente a quien promete certezas; pactar la salida del cliente debilita el candado comercial que otros llaman estrategia. Aceptamos ese precio por una razón práctica: los sectores donde trabajamos no perdonan la tecnología que promete de más, como argumentamos al hablar de infraestructura crítica.

Nada de esto nos hace neutrales. Elegimos qué construir y qué rechazar, y ese criterio también se equivoca. Por eso la carta incluye su propio mecanismo de revisión: se corrige en público, con registro de cambios, igual que el software que describe. La versión vigente está siempre en auraailabs.com/etica.