Des modèles qui rendent des comptes.
De l'expérimentation à la mise en œuvre, avec des données probantes.
Votre équipe chargée des données entraîne des modèles et les stocke dans MLflow. MLflow sait quelle est la version la plus performante, avec quelles données elle a été entraînée et quels indicateurs elle a obtenus. Ce qui lui manque, ce sont les éléments requis pour un audit : des contrôles étayés par des preuves, une validation avant le passage en production et la confirmation des fichiers exacts qui se trouvaient en production à une date donnée. V-PROOF lit votre MLflow, sans jamais y écrire, et ajoute ces trois éléments.
Un modèle, ses différentes versions et la preuve de chacune d'entre elles.
Enregistrement sur le portail V-PROOF connecté à une démonstration MLflow : deux modèles, l'un conforme aux exigences et l'autre qui ne satisfait pas aux six critères d'évaluation.
Connectez MLflow en mode lecture et enregistrez le modèle dans votre projet.
Chaque version dispose de son exécution, de ses données d'entraînement, de ses indicateurs et de ses fichiers.
Six contrôles déterministes et l'autorisation de passage en production.
Modèle V-Seal, inscription au registre de l'IA et vérification publique sans compte.
MLflow identifie la version de référence.
V-PROOF ajoute ce que demande l'auditeur.
Aucune donnée n'est dupliquée ni migrée. L'équipe chargée des données continue de travailler dans MLflow ; la gouvernance assure la surveillance, le contrôle et la validation depuis V-PROOF.
Expériences, versions et pseudonymes
Quelle est la version gagnante, quelle exécution l'a générée, avec quels ensembles de données a-t-elle été entraînée et évaluée, et quels indicateurs a-t-elle obtenus ?
Contrôles fondés sur des preuves
Six politiques ont été évaluées concernant le contenu stocké par MLflow ; chaque verdict sert de preuve et d'auto-évaluation du contrôle à l'entrée du modèle lui-même.
Un alias de production que n'importe qui peut modifier
Toute personne disposant d'un droit d'écriture peut désigner une version comme « champion », sans qu'il y ait de trace de l'identité de la personne qui en a décidé ainsi ni des raisons de ce choix.
Une validation avant la production
Une personne responsable valide le déploiement par sa signature. Si une version est en production sans avoir été validée, une alerte est déclenchée dans la supervision. Lors de la prochaine exécution des contrôles, la validation est vérifiée et le statut de l'alerte est mis à jour.
Fichiers qui évoluent au fil du temps
Les artefacts d'une version sont stockés dans le système de stockage de MLflow ; rien ne prouve que ceux d'aujourd'hui soient les mêmes que ceux qui étaient en production le jour de l'audit.
Le modèle V-Seal
L'empreinte cryptographique de chaque fichier, des ensembles de données et des résultats de la version, scellée par une preuve cryptographique et vérifiable par tout un chacun, sans compte.
Le parcours d'une version
MLflow de l'entreprise
URL de suivi, authentification de base ou jeton. Lecture seule.
Registre de l'IA
Le modèle est enregistré sous la référence MLF-…, avec le fournisseur MLflow, le responsable et le projet.
Versions
Exécution, données d'entraînement et d'évaluation, indicateurs finaux et fichiers.
Six contrôles
Schéma, sérialisation, exigences, traçabilité, documentation et promotion.
Approbation
Mise en place approuvée par une personne responsable, accompagnée d'une attestation.
Modèle V-Seal
Empreintes de fichiers, de données et de résultats, scellées avec une preuve cryptographique.
Vérification publique
N'importe qui peut vérifier le sceau à l'aide de la référence, sans avoir à effectuer de calculs ni à consulter les données internes.
Chaque version est évaluée de la même manière.
Mêmes données d'entrée, mêmes règles et mêmes sources : même résultat.
Aucun modèle de langage n’intervient : chaque contrôle est une règle enregistrée dans MLflow. Le résultat est consigné dans « Gouvernance » à titre de preuve et d’auto-évaluation du contrôle, dans l’entrée du modèle lui-même.
Schéma d'entrée
Que le modèle précise quelles données il s'attend à recevoir.
Personne ne le déclare : personne ne peut vérifier la véracité des informations qui lui parviennent.
Sérialisation
Le format dans lequel le modèle a été enregistré.
pickle, cloudpickle ou joblib : des formats capables d'exécuter du code lors de leur chargement.
Conditions requises
Bibliothèques liées à une version spécifique et ne faisant l'objet d'aucun avis de sécurité connu, d'après la base de données publique OSV.
La liste manque ou une librairie affiche des annonces. Uniquement sans indication précise : partiel.
Traçabilité des données
Que l'exécution enregistre les ensembles de données utilisés pour l'apprentissage.
Il n'en enregistre aucun.
Description et licence
La description et la licence du modèle.
Il manque tout. Avec une seule des deux, c'est partiel.
Promotion
Une version en production doit avoir reçu l'approbation V-PROOF.
Ce produit est en cours de fabrication sans avoir été homologué. Hors production, cela ne s'applique pas.
Deux modèles de démonstration MLflow · verdict par contrôle
Les six politiques apparaissent dans la section « Politiques et contrôles » après la première exécution et sont dès lors gérées par l'administrateur : toute modification des formats interdits ou des alias de production entraîne une nouvelle évaluation.
Avant la production, une personne donne son accord.
MLflow permet à toute personne disposant des autorisations nécessaires de déplacer l’alias de production. V-PROOF consigne si une personne responsable a donné son accord. La demande d’approbation crée une demande de déploiement en attente ; la personne chargée de l’approuver se prononce dans la section « Évaluations et approbations », en apposant sa signature. La prochaine exécution des contrôles vérifie l’approbation et met à jour le statut de l’alerte.
L'V-Seal t du modèle : fichiers, données et résultats.
Le scellage permet d'enregistrer la preuve de la nature exacte de cette version. Si rien n'a changé, un nouveau scellage est refusé ; une nouvelle métrique, un nouveau fichier ou un nouvel ensemble de données donnent lieu à un nouveau scellage. Chaque scellage est téléchargé au format PNG et PDF avec son manifeste et son inventaire, et tout le monde peut le vérifier sur la page publique.
Ce qui entre dans l'entreprise et ce qui en sort
Version du modèle scellée, sans données internes.Les obligations à haut risque sont modélisées.
Ce que le règlement européen sur l'IA exige pour un système à haut risque trouve son origine dans le cycle de vie du modèle. C'est là que les preuves existent ou n'existent pas.
| Obligation | Que demande-t-il ? | Quels sont les avantages de V-PROOF ? |
|---|---|---|
| Règlement européen sur l'IA · Art.10 Données et gouvernance des données | Ensembles de données d'entraînement, de validation et de test identifiés et gérés. | Contrôle de l'historique des données ; les ensembles de données de chaque version sont affichés dans l'écran « Données » et enregistrés dans le « Model V-Seal ». |
| Règlement européen sur l'IA · Art.11 Documentation technique | Description du système, de son développement et de ses performances. | Contrôle de la documentation ; versions avec exécution, paramètres et indicateurs ; manifeste et inventaire téléchargeables. |
| Règlement européen sur l'IA · Art.12 : Journal des activités | Traçabilité du fonctionnement tout au long du cycle de vie. | Chaque synchronisation, contrôle, validation et scellage est consigné dans le journal d'audit ; toute version supprimée dans MLflow est conservée et signalée comme telle. |
| Règlement européen sur l'IA · Art. 14 :Supervision humaine | Des personnes qui ont le pouvoir de prendre des décisions et d'intervenir. | Validation du déploiement par un responsable avant la mise en production, avec attestation et alerte en cas d'absence. |
| Règlement européen sur l'IA · Art.15 Exactitude et robustesse | Niveaux de performance déclarés et maintenus. | Les métriques finales de chaque version sont validées ; toute modification des métriques nécessite une nouvelle validation. |
| ISO/IEC42001 – Cycle de vie du système d'IA | Contrôles documentés au cours du développement, du déploiement et de l'exploitation. | Six politiques MLOps, telles que des contrôles dotés d'une auto-évaluation automatique et d'une trace dans le journal de l'IA. |
Ce qu'il fait et ce qu'il ne fait pas.
Nous préférons que vous en soyez informé avant la première démonstration.
- V-PROOF n'écrit jamais dans MLflow et n'enregistre jamais les fichiers du modèle : les versions conservent les métadonnées de MLflow et les horodatages enregistrent les empreintes, les tailles et les chemins d'accès.
- La synchronisation et les contrôles sont lancés manuellement. Une modification d'alias dans MLflow est détectée lors de la synchronisation ou de l'exécution suivante des contrôles, et non instantanément.
- L'empreinte que MLflow attribue à un ensemble de données est la sienne propre, et non celle du fichier d'origine.
- Avec MLflow sur Databricks, la connexion par jeton fonctionne ; la lecture et le calcul de l'empreinte des fichiers n'ont pas été testés. En attendant, le script auxiliaire se charge du scellage.
- Un fichier dont l'empreinte n'a été calculée par personne est marqué uniquement en fonction de son nom et de sa taille, et le sceau l'indique.
Quelle versiond'
est actuellement en productionet qui l'a approuvée ?
Démonstration technique sur votre propre instance MLflow, conformément aux politiques de votre organisation.