Data-Centric Trust Pipeline

Quatro dimensões maduras, nenhuma conversando entre si

Integridade, justiça, dados sintéticos e proveniência são, hoje, tratados como controles técnicos independentes. Cada um é individualmente maduro — o que falta é o acoplamento operacional entre eles.

O resultado prático: uma organização pode passar na checagem de integridade na ingestão, satisfazer a auditoria de justiça na implantação e, ainda assim, produzir predições enviesadas — porque a integridade não avaliou a completude demográfica e a auditoria de justiça não consegue rastrear quais registros foram excluídos na validação.

Um problema a montante — e com estrutura moral

Em saúde, administração pública, serviços financeiros e justiça criminal, sistemas de IA falham não porque os modelos sejam mal projetados, mas porque os dados que os alimentam são incompletos, mal documentados ou demograficamente não representativos. O problema está a montante, não a jusante.

E é também um problema institucional: as pessoas afetadas raramente tiveram visibilidade das decisões de dados que as impactaram, e as instituições raramente guardaram a linhagem necessária para responder por elas depois. Confiabilidade não é só uma propriedade técnica do modelo — é uma propriedade das práticas que o produziram. A regulação recente (EU AI Act, ISO/IEC 42001, NIST AI RMF) deslocou o eixo para a responsabilização organizacional; um passo necessário, porém insuficiente: dizem o que documentar, não como as camadas se conectam.

Um sistema de controle único, auditável, em ciclo recursivo

O Data-Centric Trust Pipeline acopla quatro camadas de governança interdependentes num ciclo recursivo, formalizando as dependências entre elas, os protocolos de resolução dos trade-offs irredutíveis e uma proveniência em nível de decisão — que registra por que e por quem cada transformação foi autorizada, não apenas o que mudou.

• ›Três protocolos de conflito: Justiça–Síntese, Integridade–Justiça e Proveniência–Integridade — que não resolvem o trade-off no automático, mas o documentam e escalonam a um humano responsável.
• ›Cinco princípios de projeto: verificação recursiva, handoffs explícitos, escalonamento humano, proveniência de decisão e validação agnóstica ao gerador.
• ›Implementação open source em Python (~1.560 linhas, 5 módulos), com scripts de reprodução determinística.

Tornar o invisível operacionalmente diagnosticável

O objetivo não é um novo gerador nem um novo critério de justiça, mas a estrutura que os conecta: transformar quatro problemas tratados em paralelo num único sistema de controle que produz evidência auditável — grafos de proveniência, resultados por lote e decisões de rollback — e que calibra empiricamente quais protocolos carregam o peso do diagnóstico.

O que a avaliação empírica mostrou

Exercitado em dois benchmarks canônicos de justiça — Adult Census Income e ProPublica COMPAS — em 32 configurações (dataset × gerador × seed), três famílias de sintetizadores (Gaussian Copula, CTGAN, TVAE) e dez sementes aleatórias:

• ›Só P1 (fidelidade) admitiria todos os ~80 lotes sem perceber que a justiça piorava — é o P2 operando junto que expõe a regressão.
• ›Três famílias de geradores produzem modos de falha qualitativamente distintos: nenhum checador único é suficiente.
• ›Um auditor consegue responder por que, por quem e com que evidência cada decisão foi tomada — o que sistemas de linhagem convencionais não capturam.

Para onde a pesquisa avança

• 01Replicar com sintetizadores tabulares por difusão — uma família generativa ainda não avaliada.
• 02Escalar para pipelines industriais, com mais atributos protegidos e grupos interseccionais.
• 03Exercitar empiricamente os conflitos Integridade–Justiça e Proveniência–Integridade, especificados mas ainda não acionados.
• 04Caracterizar as condições da augmentação governável — o único caso de síntese aceita (TVAE–COMPAS) pede mais observações.

Frentes abertas para colaboração

• ›Contrapartida operacional à regulação — conectar EU AI Act, NIST AI RMF e ISO/IEC 42001 à mecânica de geração da evidência.
• ›Métrica P1 multivariada — capturar fidelidade de dependências conjuntas, não só de marginais.
• ›Auditoria de categorias — raça autodeclarada vs. administrativa, com o desacordo registrado na proveniência.
• ›Regras P4 de produção — restrições de coocorrência derivadas de especialistas de domínio.
• ›Governança anti-“carimbo” — processos que convertam registros de autorização em avaliação real do julgamento humano.
• ›Aplicações setoriais — saúde, administração pública, serviços financeiros e justiça criminal.