Notes du studio — des agents qu’on peut vérifier

Chaque semaine, la même flotte d’agents intervient chez plusieurs clients à la fois. Cette semaine, deux chantiers distincts partagent le même fil conducteur : chez une société de coursiers, le studio a ajouté une file de validation humaine à un agent qui trie et traite les emails entrants ; chez un organisme de formation, il a structuré un audit de conformité en étapes vérifiables, avec lecture automatique des pièces justificatives. Deux métiers très différents, la même discipline en dessous : un agent IA ne mérite la confiance qu’à la condition qu’on puisse vérifier, à tout moment, ce qu’il a fait et pourquoi.

Un agent emails qui propose, mais qui ne décide jamais seul

Chez la société de coursiers, l’agent qui lit la boîte mail entrante ne se contente plus de trier les messages : il transforme chaque email en dossier, propose un plan d’actions — répondre, relancer, transmettre à un humain — et attend une validation. Chaque action reste en file d’attente tant qu’un opérateur ne l’a pas acceptée, refusée ou modifiée, et chaque décision de l’IA est journalisée pour être rejouée ou contrôlée a posteriori. Une étude de référence de John D. Lee et Katrina A. See, Trust in Automation: Designing for Appropriate Reliance, publiée en 2004 dans Human Factors, montre que la confiance dans un système automatisé ne se décrète pas : elle se construit quand l’utilisateur peut calibrer sa dépendance à la machine, ni trop ni trop peu, ce qui suppose de comprendre ce qu’elle a fait. Leçon pour un dirigeant : un agent IA sur un canal client (emails, tickets, réclamations) gagne en adoption réelle non pas quand il automatise tout, mais quand chaque action reste visible, réversible et tracée avant d’être exécutée.

Un audit de conformité découpé en étapes vérifiables

Chez l’organisme de formation, l’agent qui prépare l’audit de conformité (type Qualiopi) a été restructuré autour d’une quarantaine d’étapes fixes : chaque document ou lien déposé par l’utilisateur est désormais lu automatiquement — PDF, image, page web — et classé directement dans l’étape correspondante, avec un panel d’administration qui permet de corriger, réattribuer ou supprimer n’importe quelle pièce en cas d’erreur. Une étude de 2009 publiée dans le New England Journal of Medicine par Alex B. Haynes et son équipe, portant sur une checklist chirurgicale déployée dans huit pays, a mesuré une réduction des complications post-opératoires majeures grâce au simple fait de découper une procédure complexe en étapes courtes et vérifiables une à une — un résultat qui vaut aussi pour un audit administratif : décomposer, pas seulement automatiser. Leçon pour un DSI ou un responsable qualité : l’automatisation d’un audit de conformité n’est utile que si chaque étape reste individuellement vérifiable et corrigible par un humain — un audit que personne ne peut inspecter n’est pas un gain de temps, c’est un risque de plus lors d’un contrôle.

Le fil qui relie les deux chantiers de la semaine : un agent IA ne vaut que par ce qu’on peut vérifier de son travail — une file de validation d’un côté, des étapes d’audit inspectables de l’autre. Avant de laisser un agent agir seul sur un canal client ou une obligation réglementaire, le studio pose toujours la même question : si on doit contrôler cette décision demain, a-t-on de quoi le faire ?