Tres lecturas que usamos como continuación natural de un informe de auditoría. Sirven para discutir método con el equipo técnico, para preparar la defensa de un resultado ante un cliente y para decidir qué revisar cuando el sistema ya lleva meses en producción. No son resúmenes comerciales: cada texto entra en detalle sobre cómo se mide y qué se puede sostener con los datos disponibles.
Cómo armamos un banco de pruebas reproducible, qué perturbaciones aplicamos sobre las imágenes y por qué separamos los resultados por tipo de ataque en lugar de promediarlos en un único número.
Leer el artículoQué mirar cuando la precisión global esconde diferencias entre subgrupos, cómo definir esos subgrupos y por qué conviene reportar intervalos en lugar de una cifra única.
Leer el artículoQué señales monitorizar, cada cuánto revisar los umbrales y cómo documentar los cambios para que la trazabilidad del modelo se mantenga con el tiempo.
Leer el artículoSi tu caso no encaja en ninguna de estas tres líneas, escríbenos a info@accompropertysales.com y planteamos el alcance de la verificación antes de empezar.
Si tu equipo gestiona modelos en producción y necesita criterios antes de contratar una revisión, estos textos sirven como punto de partida.
Pruebas de robustez frente a ataques adversariales Medir sesgos algorítmicos sin caer en atajosComentarios de responsables de producto, cumplimiento y datos que encargaron una revisión externa de sus sistemas de identificación. Sin promedios inflados: cada valoración viene de un trabajo concreto, con sus límites y sus hallazgos incómodos.
Nos entregaron el informe con los fallos separados por tipo de ataque. Eso nos permitió priorizar qué arreglar primero en lugar de rehacer todo el pipeline. La parte de sesgos por subgrupo fue la más incómoda de leer y, aun así, la más útil.
Contratamos la verificación porque un proveedor nos aseguraba una precisión que no podíamos comprobar por nuestra cuenta. El equipo reprodujo las pruebas con nuestros propios datos y el resultado cambió bastante. Preferimos saberlo antes de desplegar.
Lo que más valoramos fue la trazabilidad. Cada métrica del informe se puede rastrear hasta el conjunto de datos y la versión del modelo. Cuando un regulador nos pidió explicaciones, teníamos el documento listo.
La revisión continua nos ahorró un problema serio: el modelo empezó a degradarse en un subgrupo concreto y las alertas lo detectaron antes que nuestros propios paneles internos. No es magia, es tener los umbrales bien puestos.
Organizaciones que han encargado auditorías o verificaciones continuas con nuestro equipo: