Identidad del proyecto
Equipos de producto, áreas de cumplimiento y responsables técnicos que operan identificación biométrica o verificación documental. Nos convocan cuando la precisión global del modelo no alcanza como argumento y hace falta un informe que resista una revisión externa.
No entregamos una nota final. Desglosamos los resultados por tipo de ataque, por subgrupo de población y por condición de captura. Preferimos un número incómodo bien documentado antes que un promedio cómodo que oculte fallos sistemáticos.
Replicamos el banco de pruebas completo para que otro equipo pueda repetir cada medición. La trazabilidad no es un anexo: es la parte del trabajo que permite discutir los hallazgos sin depender de nuestra palabra.
Directo y sin promesas infladas. Explicamos los límites de lo que medimos, qué queda fuera del alcance de una auditoría y en qué punto conviene una revisión humana en lugar de un umbral automático.
El equipo combina perfiles de visión por computadora, estadística aplicada y verificación en producción. Trabajamos desde Neuquén y coordinamos revisiones remotas con los equipos técnicos de cada cliente.
Coordinar una conversación técnicaColaboraciones verificadas
Trabajamos con laboratorios universitarios, integradores de control de acceso y equipos de cumplimiento que necesitan una segunda opinión técnica sobre sus modelos de identificación. La mayoría de estas relaciones empezaron con una revisión puntual y siguieron porque el informe resultó utilizable fuera del departamento de datos.
Revisión conjunta de bancos de prueba adversariales sobre modelos de reconocimiento facial. Aportamos la parte de reproducibilidad; ellos, la infraestructura de cómputo y los conjuntos de validación regionales.
Auditorías periódicas a sistemas de verificación desplegados en edificios corporativos. Nos interesa especialmente cómo se comportan los umbrales cuando cambia la iluminación o el ángulo de cámara.
Grupo de trabajo con equipos legales y de privacidad para traducir hallazgos técnicos a lenguaje de política interna. Publicamos guías conjuntas sobre trazabilidad de decisiones automatizadas.
Intercambio metodológico sobre desagregación de resultados por subgrupos. Compartimos criterios de tamaño muestral mínimo y formatos de reporte que evitan promedios engañosos.
Proveedores que conectan nuestros informes con sus flujos de onboarding. Revisamos cómo se documentan los cambios de modelo para que la trazabilidad no se pierda entre versiones.
Trayectoria del proyecto
Cada etapa de AuditaIA nació de una limitación concreta que encontramos auditando modelos de identificación. No fue un plan cerrado: fue una secuencia de decisiones tomadas sobre casos reales.
Empezamos revisando sistemas de control de acceso en edificios corporativos. La pregunta era simple: cuántas veces fallaba el modelo y con qué tipo de rostros. Ahí apareció la primera evidencia de que la precisión global ocultaba diferencias entre grupos.
Cuando los clientes pidieron medir resistencia a ataques, no existía un banco de pruebas que pudiéramos reutilizar. Construimos uno con perturbaciones controladas sobre imagen, iluminación y oclusión, y lo documentamos para que los resultados fueran comparables entre versiones del mismo modelo.
Dejamos de reportar un único número de exactitud. Cada informe pasó a incluir intervalos por subgrupo, tamaño mínimo de muestra y advertencias cuando los datos no alcanzaban para concluir. Fue una decisión incómoda para algunos clientes y necesaria para el resto.
Un informe firmado describe un modelo que ya cambió. Incorporamos monitorización de señales, revisión periódica de umbrales y registro de cambios para mantener la trazabilidad cuando el sistema sigue operando y los datos se desplazan.
Hoy trabajamos con un equipo reducido que combina estadística, visión por computador y redacción técnica. Publicamos parte del método en el blog para que otros equipos puedan contrastarlo y señalar dónde falla.