Qué queda registrado cuando hay que investigar una puerta trasera
La evidencia trazable no se arma después del incidente: se acumula durante la operación normal del modelo. Estas capturas muestran los puntos donde esa evidencia se genera y cómo se lee cuando alguien pide explicaciones.
Cada reentrenamiento deja una versión distinta. Al ponerlas lado a lado, las derivas en las métricas y los cambios en la distribución de embeddings para subgrupos concretos se vuelven visibles. Sin ese histórico, una diferencia de comportamiento se atribuye a ruido y se pierde.
La supervisión frecuente ejecuta los mismos conjuntos de prueba una y otra vez. Lo relevante no es el resultado de una corrida aislada, sino la serie: cuándo apareció la anomalía, con qué frecuencia se repite y si coincide con un cambio de versión o de datos de entrada.
Precisión, tasa de falsos positivos y estabilidad ante ruido pueden mantenerse altas incluso con una puerta trasera activa. Por eso el informe separa lo que mide rendimiento general de lo que mide comportamiento diferencial ante entradas diseñadas para activar disparadores.
Ante un incidente, la investigación exige conservar versiones del modelo, registros de entrenamiento, resultados de pruebas previas y trazas de las decisiones automatizadas. Sin esa base, cualquier reconstrucción de lo ocurrido queda en el terreno de la especulación.
Guardar datos sensibles durante más tiempo mejora la trazabilidad, pero choca con las normas de protección de datos personales. La tensión es real y se resuelve caso por caso: qué se conserva, durante cuánto y con qué controles de acceso.