El orden de trabajo en una auditoría continua

No hay una fecha de inicio ni un calendario fijo que prometer. Lo que sí hay es una secuencia operativa que se repite ciclo a ciclo: conservar, probar, contrastar y dejar rastro. Cada paso depende del anterior, y si uno se salta, el siguiente pierde sentido.

Conservar antes de probar

El punto de partida no es un test, es el archivo. Versiones del modelo, registros de entrenamiento y resultados de pruebas anteriores. Sin ese material cualquier hallazgo posterior queda sin referencia contra la que comparar. En equipos financieros esto suele implicar acordar qué se guarda, durante cuánto tiempo y quién puede consultarlo.

Pruebas de estrés por lotes

Sobre ese material se ejecutan lotes con pares de imágenes y muestras de audio preparadas para forzar respuestas concretas: alterar un píxel, modificar un tono, insertar una marca inaudible en la señal de entrada. El objetivo no es medir precisión general, sino observar si la confianza del modelo cambia de forma anómala ante entradas que deberían ser equivalentes.

Comparación entre versiones

Cada reentrenamiento o ajuste puede introducir o reactivar una vulnerabilidad. La auditoría continua pone una versión junto a la anterior y revisa si aparecen disparadores nuevos, si desaparecen los ya detectados y si la distribución de embeddings para ciertos subgrupos se ha desplazado. Esa deriva es a menudo la primera señal visible.

Trazas de las decisiones automáticas

Cada ciclo deja registro del lote ejecutado, la versión evaluada y el resultado obtenido. Cuando aparece un cambio brusco de confianza o una respuesta fuera de patrón, la traza permite rastrear hasta qué lote y qué versión lo produjeron. Sin esa cadena, la investigación se vuelve especulativa.

Qué no resuelve este proceso

Una auditoría puntual entrega una foto fija de un momento concreto. La continua repite el contraste sobre lotes representativos, pero tampoco garantiza detectar todo: un atacante que conoce el procedimiento puede diseñar disparadores que eviten las pruebas habituales. Por eso el proceso se documenta y se revisa, no se da por cerrado.

La secuencia se repite mientras el modelo siga en producción. Si el sistema se reentrena, se sustituye o cambia el contexto de uso, el ciclo vuelve al primer paso.

Del modelo en producción al contraste entre versiones

Una auditoría continua no empieza con una prueba, empieza con lo que el equipo conserva. Si no hay versiones anteriores, registros de entrenamiento y resultados de pruebas previas, cualquier hallazgo posterior queda sin referencia contra la que comparar.

Reunir el material de partida

Antes de ejecutar nada, se identifican las versiones del modelo que han estado activas, los lotes de entrenamiento asociados y los informes de pruebas anteriores. También se revisan las trazas de las decisiones automatizadas que el sistema ya venía generando. Sin ese conjunto, la auditoría no puede distinguir un comportamiento nuevo de uno heredado.

Definir qué se va a estresar

Se acuerda el alcance concreto: verificación facial, verificación de voz o ambas. Para rostro se preparan pares de imágenes con patrones específicos y alteraciones mínimas, como el cambio de un solo píxel. Para voz se trabaja con frases concretas, variaciones de tono y marcas inaudibles insertadas en el audio. El alcance define qué señales se van a poder leer después.

Ejecutar las pruebas por lotes

Las pruebas se lanzan sobre lotes representativos y no sobre casos aislados. Lo que se observa no es solo la precisión global, sino la respuesta diferencial: cómo cambia la confianza del modelo ante entradas diseñadas para activar un disparador y cómo se distribuyen los embeddings en subgrupos concretos. Esa diferencia es la que suele quedar oculta tras métricas agregadas correctas.

Comparar contra versiones anteriores

Cada resultado se contrasta con el de versiones previas del mismo modelo. Un cambio brusco de confianza entre versiones, o una deriva sostenida en la distribución de embeddings, apunta a algo que merece revisión. La comparación es la parte que una auditoría puntual no puede hacer: una foto fija no muestra hacia dónde se mueve el modelo.

Dejar trazas rastreables

Cada ciclo cierra dejando registro del lote usado, la versión evaluada y las decisiones automatizadas que se tomaron durante la prueba. El objetivo es que una respuesta anómala pueda rastrearse hasta el lote y la versión que la produjeron, y no quede como una observación suelta sin origen verificable.

Repetir el contraste

El proceso vuelve a empezar sobre nuevos lotes y nuevas versiones. La repetición es lo que separa la supervisión continua de una revisión anual: los modelos se reentrenan, se ajustan o se sustituyen, y cada cambio puede introducir o reactivar una vulnerabilidad. La frecuencia de repetición define qué se puede detectar a tiempo y qué no.

Si quieres ver cómo se estructura la evidencia técnica de cada ciclo, revisa el método de auditoría. Para el detalle de lo que se ofrece en cada modalidad, consulta las modalidades de trabajo.

Configuracion de cookies

Usamos cookies para mantener el sitio estable, recordar opciones basicas y entender que paginas resultan utiles. Puedes aceptar, rechazar o revisar la configuracion antes de continuar.