Por qué existe una auditoría continua de puertas traseras
Vigila IA nace de un problema concreto: los modelos biométricos que ya operan en producción pueden esconder puertas traseras que las métricas globales no revelan. Un sistema de verificación facial o de voz puede mantener una precisión alta y, aun así, responder de forma anómala ante un par de imágenes con un patrón específico, ante un tono determinado o ante una marca inaudible insertada en el audio de entrada. Esa clase de disparador no aparece en una revisión puntual.
Qué miramos y para quién trabajamos
Trabajamos con equipos técnicos, responsables de riesgo y áreas de cumplimiento de grandes organizaciones financieras, donde estos modelos llevan tiempo en producción y donde cada versión nueva puede introducir o reactivar una vulnerabilidad. Nuestro foco son las señales medibles: cambios bruscos de confianza al alterar un píxel, desviaciones en la distribución de embeddings para ciertos subgrupos, respuestas anómalas ante lotes representativos. Comparamos versiones del modelo, vigilamos derivas en las métricas y ejecutamos pruebas automáticas de forma recurrente, porque la diferencia práctica entre una foto fija y una supervisión frecuente está en el tiempo de detección.
Hay un límite real que no ocultamos: investigar un incidente exige conservar versiones del modelo, registros de entrenamiento, resultados de pruebas previas y trazas de las decisiones automatizadas. Esos materiales pueden contener datos sensibles, y ahí aparece la tensión entre conservar lo necesario para el análisis y cumplir con las normas de protección de datos personales. Trabajamos dentro de ese equilibrio, no por encima de él.
Principios de trabajo
- Describimos señales medibles y explicamos los límites de cada método, sin prometer funciones que no estén implementadas.
- Distinguimos entre métricas de rendimiento general y métricas de seguridad: las primeras no sustituyen a las segundas.
- Documentamos los hallazgos para que sean útiles ante un comité de riesgo o una revisión regulatoria.
- Tratamos la conservación de datos sensibles como una decisión de diseño, no como un detalle posterior.
