IA vérifiable
Gouvernance par les agents.
Chaque agent a ses limites.
Chaque action laisse des traces.
Lorsque l'IA ne se contente plus de générer des réponses et commence à agir sur les outils, les données et les processus, la simple gouvernance du modèle ne suffit plus. L'organisation doit être en mesure de démontrer chaque action, sa légitimité, son contexte et son résultat.
De la part des copilotes qui répondent
aux agents qui agissent.
Un agent peut interroger un système, sélectionner un outil, modifier une ressource, lancer un flux de travail ou proposer une décision. Chaque étape étend le périmètre de gouvernance.
La question n'est plus seulement de savoir quel contenu l'IA a généré. Il faut aussi comprendre ce qu'elle a fait, pourquoi elle a pu le faire, quelles étaient les limitations et qui est intervenu.
Générer une réponse
L'accent est mis sur le contenu produit et son examen.
Effectuer une action
Le champ d'action s'élargit pour inclure l'identité, l'autorité, la politique, les ressources, l'intervention et le résultat.
On ne peut comprendre une action sans son contexte.
La gouvernance des agents nécessite une chaîne de preuves permettant de reconstituer le déroulement complet d'une exécution.
Identité
Quel agent ou composant a participé à l'exécution ?
Autorité
Quel pouvoir délégué a permis cette intervention ?
Politique
Quelles étaient les règles et les limites en vigueur à cette époque ?
Action et recours
Quelle opération a été effectuée et sur quel outil, données ou actif ?
Contexte
Quelles versions, entrées, conditions et séquences ont entouré la décision ?
Surveillance
Quelles approbations, révisions ou interventions humaines ont fait partie du processus ?
Résultat
Qu'est-ce qui a conduit à cette exécution et comment est-elle liée aux preuves qui en ont découlé ?
Contrôle pendant l'exécution.
Des preuves pour le démontrer.
L'infrastructure d'exécution peut limiter, autoriser, bloquer, contenir et surveiller un agent pendant son exécution.
V-PROOF Elle ajoute une couche complémentaire de preuves cryptographiques vérifiables permettant d'associer l'action à son identité, son autorité, sa politique, son contexte, son contrôle et son résultat.
Exécution et sécurité
Ils appliquent des limites et des contrôles opérationnels pendant que l'agent utilise des outils, des données et des systèmes.
Limiter · Autoriser · Bloquer · Contenir · SurveillerV-PROOF
Il établit un lien entre l'empreinte cryptographique, le contexte de gouvernance et les preuves d'exécution pour la traçabilité et la vérification ultérieure.
Associer · Documenter · Reconstituer · VérifierCouches complémentaires : V-PROOF Il n'est pas présenté comme un environnement de test, un pare-feu ou un moteur de contrôle opérationnel.
Une couche de preuves supplémentaire sur le système déjà en fonctionnement.
L'agent continue de travailler avec son infrastructure, ses politiques et ses systèmes d'entreprise. V-PROOF Il est intégré pour associer des preuves vérifiables au flux défini.
Sélectionnez un composant pour voir sa fonction au sein de l'architecture.
Lorsqu'une action doit pouvoir être expliquée.
Modèles d'application pour la conception d'une intégration. Ils ne décrivent ni les connecteurs ni les déploiements préconfigurés.
agents de développement
Associez toute modification à l'agent, à l'instruction, à la politique applicable, à la vérification humaine et à la version résultante.
Agents opérationnels
Documentez toute action sur une infrastructure ou un processus en précisant son autorité, sa séquence, ses limites et son résultat.
Agents transactionnels
Associer une proposition ou une exécution à des règles, des seuils, des approbations et des preuves du flux de travail métier.
Agents d'édition
Associer une ressource à ses sources, instructions, révisions, approbations et version publiée.
Agents de service
Reconstituez les informations utilisées par l'agent, les actions entreprises, la supervision en place et le résultat obtenu.
Ajouter des preuves.
Sans remplacer la pile.
V-PROOF Il s'intègre aux flux et systèmes existants via une API et un SDK. La portée, les événements et le contexte enregistrés sont définis pour chaque cas d'utilisation.
L'intégration permet d'associer des ressources, des actions, des versions, des règles, des approbations et des résultats à une empreinte numérique et à un enregistrement numérique préparés pour vérification.
{
"agent": "agent_reference",
"authority": "delegated_scope",
"policy": "policy_reference",
"action": "executed_operation",
"resource": "asset_or_system",
"oversight": "approval_reference",
"result": "result_reference"
}Définir
Identifier les actions, les contrôles et les preuves pertinents pour l'affaire.
Se connecter
Intégrez le flux convenu à l'aide d'une API ou d'un SDK.
Vérifier
Vérifiez l'intégrité, la chronologie et le contexte enregistré.
Cadre conceptuel. La disponibilité et la portée spécifique dépendent de la conception de chaque intégration.
Gouverner l'agent.
Prouvez l'action.
Si vos agents peuvent déjà agir sur des systèmes, des données ou des processus, il est temps de concevoir la manière dont chaque exécution sera démontrée.