About | Vigila IA

Con quién trabajamos y con quién no

Vigila IA no publica logotipos de clientes ni listas de aliados. No es una decisión de estilo: en auditoría de modelos biométricos, revelar qué organización está revisando su sistema de verificación facial o de voz ya expone parte del perímetro. Preferimos que ese dato lo decida cada equipo.

Lo que sí podemos describir es el tipo de interlocutor con el que encaja el trabajo: equipos que ya tienen el modelo en producción y necesitan comparar versiones, conservar trazas y sostener la evidencia ante un comité de riesgo o un regulador.

Equipos técnicos con el modelo ya desplegado

Ingeniería de machine learning, plataforma o seguridad que mantiene el sistema biométrico en operación y responde por sus versiones. El trabajo encaja cuando hay un pipeline real que comparar y no solo un prototipo en cuaderno.

Áreas de riesgo y cumplimiento

Perfiles que necesitan documentar por qué una métrica global alta no equivale a ausencia de puerta trasera, y que deben justificar ante terceros qué se probó, con qué lote y en qué fecha.

Organizaciones financieras con verificación facial o de voz

El foco declarado son grandes organizaciones financieras donde estos modelos operan en producción y donde un fallo silencioso tiene consecuencias regulatorias, no solo técnicas.

Proveedores que quieren auditar su propio modelo

Válido si aceptan el mismo criterio que aplicamos al resto: resultados reproducibles, límites explícitos de cada prueba y ningún informe que prometa más de lo que el método permite afirmar.

Fuera de ese encaje quedan las solicitudes que buscan una certificación de cumplimiento, una garantía de ausencia de vulnerabilidades o un sello de aprobación. Ninguna de esas cosas se deduce de una auditoría, ni puntual ni continua.

Sobre el enfoque de Vigila IA

Un método que se apoya en lotes, versiones y registros

La auditoría continua de modelos biométricos no se sostiene sobre una intuición ni sobre una revisión aislada. Se sostiene sobre análisis estadístico repetido, pruebas por lotes y una trazabilidad que permita reconstruir qué se probó, con qué versión y bajo qué condiciones.

Análisis estadístico antes que impresiones

Trabajamos con distribuciones, no con anécdotas. Se observan embeddings, márgenes de confianza y tasas de error sobre subgrupos definidos de antemano. La pregunta no es si el modelo acierta en promedio, sino si su comportamiento cambia de forma sistemática cuando la entrada se aparta de lo habitual.

Pruebas de estrés ejecutadas por lotes

Un caso aislado rara vez dice algo concluyente. Por eso las pruebas se aplican sobre lotes representativos: variaciones controladas de ruido, compresión, iluminación o segmentos sintéticos, según el canal. Lo que se busca es un patrón repetido, no una respuesta curiosa.

Comparación entre versiones del modelo

Cada reentrenamiento o ajuste puede introducir o reactivar una vulnerabilidad. Conservar versiones anteriores y contrastarlas permite ver derivas en las métricas que una sola medición no mostraría. La comparación es parte del método, no un extra posterior.

Trazabilidad como condición, no como informe

Ante un incidente, la investigación exige conservar versiones del modelo, registros de entrenamiento, resultados de pruebas previas y trazas de las decisiones automatizadas. Sin esa base, cualquier conclusión queda en el aire. Por eso el registro se organiza desde el inicio y no cuando ya hay un problema.

Límites que conviene decir en voz alta

Las pruebas de estrés en biometría suelen reportar precisión, tasa de falsos positivos y estabilidad ante ruido. Esas cifras pueden mantenerse altas incluso con una puerta trasera activa. Reconocerlo no debilita el método: define qué se puede afirmar y qué queda fuera del alcance de cada prueba.

Qué miramos cuando auditamos un modelo biométrico

El trabajo de Vigila IA se apoya en señales que se pueden medir y repetir: distribuciones de embeddings, estabilidad ante ruido y comparación entre versiones del mismo modelo. Estas son algunas de las superficies que revisamos con más frecuencia.

Rostro · análisis por lotes Vigila IA: about

Pares de imágenes con patrones repetidos

Comparamos respuestas del modelo ante pares que comparten marcas concretas. Una confianza que sube de golpe cuando cambia un solo píxel es una pista, no una conclusión.

Voz · estabilidad espectral Vigila IA: about

Deriva entre versiones del modelo

Un reentrenamiento puede dejar intactas las métricas globales y, aun así, mover la distribución de embeddings para un subgrupo. La comparación entre versiones es lo que hace visible ese movimiento.

Registro · trazabilidad Vigila IA: about

Evidencia que sobrevive a la investigación

Conservar versiones, registros de entrenamiento y resultados de pruebas previas es parte del método. Sin esa base, cualquier revisión posterior se vuelve especulativa.

Métricas · interpretación Vigila IA: about

Precisión alta no significa modelo limpio

La tasa de falsos positivos y la estabilidad ante ruido pueden mantenerse correctas con una puerta trasera activa. Por eso medimos comportamiento diferencial por subgrupo y no solo el agregado.

Por qué auditamos por lotes y no por impresiones

Vigila IA trabaja sobre modelos biométricos que ya están en producción: verificación facial y de voz en organizaciones financieras donde una decisión automática tiene consecuencias reales. Nuestro punto de partida no es la intuición ni la revisión manual de casos sueltos, sino el análisis estadístico sobre lotes representativos. Un modelo puede acertar en la mayoría de las comparaciones y, aun así, esconder una respuesta anómala que solo aparece cuando se repite una condición muy concreta. Esa condición no se ve mirando una imagen aislada; se ve acumulando resultados y comparando distribuciones.

La unidad de trabajo es el lote, no el caso

Revisar pares de imágenes o fragmentos de audio uno por uno no escala ni permite distinguir una rareza de un patrón. Trabajamos con conjuntos que cubren subgrupos, condiciones de captura y variaciones controladas, y medimos cómo se mueve la confianza del modelo dentro de cada conjunto. Lo que buscamos son desviaciones que se repiten, no el error llamativo que aparece una sola vez.

Comparar versiones es parte del método

Un modelo biométrico se reentrena, se ajusta o se sustituye, y cada cambio puede introducir o reactivar un comportamiento que antes no existía. Por eso conservamos el rastro entre versiones: qué métricas se movieron, en qué subgrupo y con qué magnitud. Una auditoría puntual entrega una foto fija; nosotros necesitamos la secuencia para saber si una deriva es esperable o si merece una revisión a fondo.

Las métricas globales no bastan

Precisión, tasa de falsos positivos y estabilidad ante ruido son indicadores útiles, pero pueden mantenerse altos incluso cuando hay una puerta trasera activa. Esas cifras resumen el promedio y esconden el comportamiento diferencial. Por eso combinamos métricas de rendimiento con pruebas diseñadas para provocar respuestas específicas y observamos la diferencia entre lo que el modelo declara y lo que hace.

La trazabilidad no es un trámite posterior

Cuando aparece un incidente, la investigación depende de lo que se haya guardado antes: versiones del modelo, registros de entrenamiento, resultados de pruebas previas y trazas de las decisiones automatizadas. Sin esa base, cualquier conclusión es especulativa. Registramos desde el inicio, con criterio, asumiendo que parte de ese material es sensible y que su conservación tiene que convivir con las normas de protección de datos personales.