Data-Centric Trust Pipeline

Cuatro dimensiones maduras, ninguna conversando entre sí

Integridad, equidad, datos sintéticos y procedencia se tratan hoy como controles técnicos independientes. Cada uno es individualmente maduro — lo que falta es el acoplamiento operativo entre ellos.

En la práctica: una organización puede pasar la verificación de integridad en la ingesta, satisfacer la auditoría de equidad en el despliegue y, aun así, producir predicciones sesgadas — porque la integridad no evaluó la completitud demográfica y la auditoría de equidad no puede rastrear qué registros se excluyeron en la validación.

Un problema aguas arriba — y con estructura moral

En salud, administración pública, servicios financieros y justicia penal, la IA falla no porque los modelos estén mal diseñados, sino porque los datos que los alimentan son incompletos, mal documentados o demográficamente no representativos. El problema está aguas arriba, no aguas abajo.

Y es también institucional: las personas afectadas rara vez tuvieron visibilidad de las decisiones de datos que las impactaron, y las instituciones rara vez guardaron el linaje necesario para responder por ellas después. La confiabilidad no es solo una propiedad técnica del modelo — es una propiedad de las prácticas que lo produjeron. La regulación reciente (EU AI Act, ISO/IEC 42001, NIST AI RMF) desplazó el eje hacia la responsabilización organizacional; un paso necesario pero insuficiente: dicen qué documentar, no cómo se conectan las capas.

Un sistema de control único, auditable, en ciclo recursivo

El Data-Centric Trust Pipeline acopla cuatro capas de gobernanza interdependientes en un ciclo recursivo, formalizando las dependencias entre ellas, los protocolos de resolución de los trade-offs irreducibles y una procedencia a nivel de decisión — que registra por qué y por quién se autorizó cada transformación, no solo qué cambió.

• ›Tres protocolos de conflicto: Equidad–Síntesis, Integridad–Equidad y Procedencia–Integridad — que no resuelven el trade-off automáticamente, sino que lo documentan y escalan a un humano responsable.
• ›Cinco principios de diseño: verificación recursiva, handoffs explícitos, escalamiento humano, procedencia de decisión y validación agnóstica al generador.
• ›Implementación open source en Python (~1.560 líneas, 5 módulos), con scripts de reproducción determinista.

Volver lo invisible operativamente diagnosticable

El objetivo no es un nuevo generador ni un nuevo criterio de equidad, sino la estructura que los conecta: convertir cuatro problemas tratados en paralelo en un único sistema de control que produce evidencia auditable — grafos de procedencia, resultados por lote y decisiones de rollback — y que calibra empíricamente qué protocolos cargan el peso del diagnóstico.

Lo que mostró la evaluación empírica

Ejercitado en dos benchmarks canónicos de equidad — Adult Census Income y ProPublica COMPAS — en 32 configuraciones (dataset × generador × seed), tres familias de sintetizadores (Gaussian Copula, CTGAN, TVAE) y diez semillas aleatorias:

• ›Solo P1 (fidelidad) admitiría los ~80 lotes sin notar que la equidad empeoraba — es P2 operando en conjunto lo que expone la regresión.
• ›Tres familias de generadores producen modos de fallo cualitativamente distintos: ningún verificador único basta.
• ›Un auditor puede responder por qué, por quién y con qué evidencia se tomó cada decisión — algo que los sistemas de linaje convencionales no capturan.

Hacia dónde avanza la investigación

• 01Replicar con sintetizadores tabulares por difusión — una familia generativa aún no evaluada.
• 02Escalar a pipelines industriales, con más atributos protegidos y grupos interseccionales.
• 03Ejercitar empíricamente los conflictos Integridad–Equidad y Procedencia–Integridad, especificados pero aún no accionados.
• 04Caracterizar las condiciones de la augmentación gobernable — el único caso de síntesis aceptada (TVAE–COMPAS) pide más observaciones.

Frentes abiertos para colaboración

• ›Contraparte operativa de la regulación — conectar EU AI Act, NIST AI RMF e ISO/IEC 42001 con la mecánica de generación de la evidencia.
• ›Métrica P1 multivariada — capturar fidelidad de dependencias conjuntas, no solo marginales.
• ›Auditoría de categorías — raza autodeclarada vs. administrativa, con el desacuerdo registrado en la procedencia.
• ›Reglas P4 de producción — restricciones de coocurrencia derivadas de expertos de dominio.
• ›Gobernanza anti-“sello” — procesos que conviertan los registros de autorización en una evaluación real del juicio humano.
• ›Aplicaciones sectoriales — salud, administración pública, servicios financieros y justicia penal.