Chaque décision a son responsable.
Et chaque responsable a son épreuve.
Le « EU AI Act » ne se contente pas de réclamer des contrôles : il demande à savoir qui décide, qui supervise et qui est responsable. « V-PROOF » organise la gouvernance de l’IA en trois niveaux de responsabilité et un cycle en six étapes, chaque étape laissant une trace avec un nom, une date et une empreinte.
Trois niveaux de responsabilité. L'un d'entre eux assure un contrôle externe.
L'administration fonctionne lorsque chaque niveau sait ce qu'il décide et ce qu'il doit être en mesure de justifier. V-PROOF rend compte de ce qui se passe à chaque niveau.
Qui approuve, qui met en œuvre et à qui rend-on compte ?
Un modèle de référence que nous adaptons à la structure de chaque organisation lors du diagnostic.
| Activité | Conseil et direction | Comité sur l'IA | Responsable du système | Service juridique · DPO · CISO | Données probantes dans V-PROOF |
|---|---|---|---|---|---|
| Définir l'appétit pour le risque et la politique en matière d'IA | A | R | I | C | Politique et version certifiées |
| Gérer l'inventaire des systèmes | I | A | R | C | Registre de chaque système et de son responsable |
| Claser le risque en fonction du EU AI Act | I | A | R | C | Niveau de risque et obligations qui en découlent |
| Adopter un système à haut risque | I | A · R | C | C | Déclaration de la personne désignée |
| Superviser la mise en œuvre | — | I | A · R | C | Décisions humaines et contrôles mis en place |
| Gérer un incident | I | A | R | R | Détection, réponse et clôture datées |
| En informer la direction | I | A · R | C | C | Rapport d'exposition et de preuves |
A Rend des comptes · R Exécute · C Est consulté · I Est informé
Six étapes. Chacun laisse sa trace.
Ce cycle se répète chaque fois qu'un nouveau système est mis en place, qu'un système existant est modifié ou que la politique est révisée.
- 01RecenserRecensement de chaque système d'IA, de son fournisseur et de son responsable
- 02ClassificationNiveau de risque selon l'EU AI Act , et obligations qui en découlent
- 03ApprouverDéclaration écrite de la personne désignée, mot pour mot lors de la traçabilité
- 04Superviserles contrôles en cours d'exécution et les décisions humaines enregistrées
- 05Mettre en évidenceEmpreinte scellée et vérifiable par des tiers
- 06RévisionRapport à l'intention de la direction et recalcul du risque sur demande
Le gouvernement n'est pas facultatif. C'est inscrit dans la loi.
Les critères abordés par V-PROOF reviennent, en des termes différents, à la même chose : des rôles bien définis, une supervision humaine et la capacité de le prouver.
Quiconque utilise des systèmes d'IA doit s'assurer que son personnel dispose des connaissances nécessaires pour ce faire.
Dans les systèmes à haut risque, la personne chargée de leur mise en œuvre doit confier la supervision à des personnes disposant des compétences, de la formation et de l'autorité nécessaires.
Utiliser le système conformément aux instructions, surveiller son fonctionnement, tenir à jour les registres et signaler les incidents graves.
La direction prend ses engagements, définit la politique et attribue les rôles ; le système fait l'objet d'audits et de révisions de la part de la direction.
Définition des politiques, des rôles et des responsabilités avant de cartographier, de mesurer et de gérer les risques.
Il ne suffit pas de se conformer à la réglementation : le responsable du traitement doit être en mesure de le prouver.
Résumé à titre indicatif des textes réglementaires. Pour votre cas particulier, veuillez consulter votre conseiller juridique.
Un modèle pour l'ensemble du groupe. Et la réglementation de chaque pays, en plus.
Le noyau de gouvernance est commun (EU AI Act, ISO/IEC 42001, NIST AI RMF et RGPD) et chaque filiale y ajoute sa couche locale, comme l'ENS en Espagne. La direction dispose ainsi d'un ensemble unique et consolidé de données.
Commencez par déterminer qui prend les décisions aujourd'hui.
1 · Diagnostic. Nous dressons l'inventaire de vos systèmes d'IA et identifions les responsables de chacun d'entre eux.
2 · Conception du modèle. Nous définissons les rôles, le comité et le cycle, adaptés à votre organisation.
3 · Mise en route. V-PROOF commence à enregistrer chaque étape de votre test.