Quina versió del seu model està en producció i qui ho va aprovar?
Su equipo de datos sabe qué versión es la campeona. Lo que una auditoría pregunta es otra cosa: quién decidió ponerla en producción, con qué controles y qué ficheros exactos estaban funcionando el día del incidente.
Lo que MLflow ya sabe, y lo que no
MLflow es el estándar de facto para registrar modelos. Sabe qué ejecución produjo cada versión, con qué datos se entrenó y qué métricas obtuvo. Para el equipo de datos es suficiente.
Para gobernanza le faltan tres cosas. Controles con evidencia. Una aprobación antes de producción, porque hoy cualquiera con permiso de escritura puede mover el alias de producción sin dejar constancia. Y la prueba de que los ficheros de hoy son los que estaban en producción el día de la auditoría.
Seis controles, resultados reproducibles
Verifiable AI MLOps Governance lee el MLflow de la empresa, sin escribir nunca en él, y evalúa cada versión con seis controles sin ningún modelo de lenguaje:
Esquema de entrada.
Que el model declari quines dades espera rebre.
Serialización.
Que no se guarde en formatos que pueden ejecutar código al cargarse.
Requisitos.
Librerías fijadas a una versión y sin avisos de seguridad conocidos.
Linaje de datos.
Con qué conjuntos de datos se entrenó cada versión.
Descripción y licencia.
Qué es el modelo y bajo qué licencia se usa.
Promoción.
Que lo que está en producción tenga una aprobación.
En el MLflow de demostración, un modelo bien gobernado pasa 6 de 6. Otro, en producción sin aprobación, pasa 0 de 6 y abre una alerta. La diferencia no la decide una opinión: la decide una regla. Con las mismas entradas, reglas y fuentes de evaluación, el resultado es reproducible.
Antes de producción, una persona dice que sí
La aprobación de despliegue la firma una persona responsable, con su atestación. Si una versión llega a producción sin ella, se abre una alerta en Supervisión; la siguiente ejecución de controles comprueba la aprobación y actualiza el estado de la alerta. Es la supervisión humana del artículo 14, aplicada donde nace el riesgo.
El Model V-Seal: qué era exactamente esa versión
Sellar una versión registra la huella de cada fichero del modelo, de sus conjuntos de datos y de sus resultados, con prueba criptográfica. Si cambia una métrica o un fichero, hace falta un sello nuevo.
De la empresa solo sale un manifiesto cifrado de huellas y recuentos. Ni el modelo, ni los datos, ni el valor de una métrica salen de su infraestructura. Cualquiera verifica el sello en la página pública, sin cuenta.
Por qué importa ahora
Lo que el Reglamento Europeo de IA pide a un sistema de alto riesgo (datos, documentación, registro, supervisión y exactitud: arts. 10, 11, 12, 14 y 15) nace en el ciclo de vida del modelo. Ahí es donde la evidencia existe o no existe.
Con honestidad: la sincronización se lanza a mano, así que un cambio de alias se detecta en la siguiente ejecución, no al instante. Y con MLflow en Databricks el cálculo de huellas aún no está probado; lo cubre el script del pipeline.
Cada versión, evaluada. Cada despliegue, aprobado y demostrable.
Un model, les versions i la prova de cadascuna.
Grabado sobre el Portal V-PROOF conectado a un MLflow de demostración.
Ver la demo