L’autonomie d’un agent IA, ça se mérite

J’ai récemment raconté cette conversation sur LinkedIn et j’ai demandé quelles étaient vos plus grandes questions sur la gouvernance des agents IA. J'écrivais alors que c'était le début d'une réflexion que je voulais pousser. Voici donc ce que le post ne disait pas : les trois questions à se poser dans l'ordre avant d'accorder de l'autonomie à un agent, l’angle mort que ma propre métaphore cachait, et ce que je vois venir pour les organisations qui s’y prennent maintenant.

Un agent IA, c’est une recrue pleine de talent. Vous ne lui confieriez pas le pouvoir de valider des paiements ou de signer des contrats fournisseurs sans supervision dès sa première journée. Pourtant, c’est ce que plusieurs entreprises font en ce moment.

Je ne dis pas qu’un agent ne devrait jamais toucher à vos paiements. Bien encadré, ça marche. Mais on ne commence pas là.

L’autonomie se calibre au risque de la décision

Ce que je répète aux dirigeants, c’est que l’autonomie d’un agent, ça se mérite et ça se calibre au risque de la décision qu’il prend.

Beaucoup d’organisations traitent ça comme un seul interrupteur. Deux camps se dessinent, et les deux se trompent.

D’un côté, on exige qu’un humain approuve chaque geste. Ça détruit la valeur et ça recrée le goulot qu’on voulait éliminer.

De l’autre, on donne carte blanche. Personne ne s’en plaint avant le premier incident.

L'erreur commune aux deux camps, c'est de répondre globalement. Alors que la question se pose agent par agent, et que la réponse se situe bien souvent entre les deux. Un agent qui trie des alertes mineures n’a rien à voir avec celui qui engage un fournisseur stratégique.

Dans une même entreprise, au même moment, certains agents doivent être surveillés de près pendant que d’autres tournent presque seuls. C’est ce qu’on appelle les trois régimes de supervision, et le régime se choisit un agent à la fois.

Les trois questions que je pose

La décision est-elle réversible ?

Recommander un inventaire un peu trop tôt se corrige facilement, tandis que régler une facture au mauvais fournisseur beaucoup moins.

D’où ma règle : les systèmes de paiement sont le pire endroit où commencer. Un virement parti est difficilement rattrapable.

Jusqu’où vont les dégâts si elle tourne mal ?

La portée d'une décision se mesure au nombre d'opérations qui en dépendent.

Reprenons l'agent. Une décision d'automatiser un paiement n'engage pas qu'un montant : dans la plupart des systèmes d'entreprise, elle déclenche un virement bancaire, met à jour la balance fournisseurs et ajuste la trésorerie. Une même sortie, trois systèmes qui s'y branchent. Avec un modèle standard, un humain intercepte avant que ces trois systèmes bougent. Sur un agent autonome, plus rien n'intercepte.

Quand une décision porte aussi loin, il faut plus de points de contrôle, pas moins, même quand le modèle fait bien son travail.

A-t-on assez de recul et de données fiables pour lui faire confiance ?

C'est la question à laquelle je vois le plus de dirigeants ne pas savoir répondre. La plupart du temps, elle n'avait pas été posée avant qu'on branche l'agent.

Dans notre exemple du début, l’agent règle des factures fournisseurs depuis quelques semaines. Combien de fois s'est-il trompé ? De combien ? Sur quel type de factures ? Si je posais ces questions aujourd'hui à ce dirigeant, il n'aurait sûrement pas de chiffres à me donner. Pas par négligence mais parce que personne n'a pris la décision, avant la mise en service, que ces chiffres devaient exister.

Le problème c’est que sans ce nombre, on ne calibre rien. On espère.

L’angle mort de ma métaphore

Ma comparaison avec la recrue a un angle mort.

Un nouvel employé arrive avec deux choses. Un mandat, clair avant même son premier jour : ce qu'il peut décider seul, jusqu'à quel point, et ce qui doit remonter avant qu'il agisse. Et un gestionnaire attitré, qui répond de ses erreurs et peut lui couper les accès sur-le-champ. L'agent de ce dirigeant n'avait ni l'un ni l'autre.

D'où trois exigences que l’on doit poser avant toute mise en production :

• 1. Un mandat écrit avant que l'agent touche à un seul système. Ce qu'il a le droit de décider, jusqu'à quel point, et ce qui doit passer par un humain. Un document que la direction a lu et signé, et non pas une consigne enfouie dans le prompt.
• 2. Un responsable nommé, en toutes lettres, qui a les accès pour agir. Pas « l'équipe IA ». Pas « la personne qui a signé le contrat ». Un nom, une case dans le registre, et de vrais accès techniques.
  
  
• 3. Un moyen d'arrêter l'agent sans arrêter le système autour. Ce que le milieu appelle un kill switch. Il se teste, chronomètre en main, sinon c'est une hypothèse.
  Bien conçue, l’agentisation rend le travail plus vérifiable.

Ces trois exigences paraissent lourdes tant qu'on ne les a pas installées. Une fois en place, elles ne ralentissent rien : elles tracent enfin la frontière entre ce que les équipes décident et ce qu'un agent peut trancher seul.

Mais encore faut-il la tenir dans la durée. Sinon, on retombe dans le vieux schéma des chiffriers Excel bourrés de macros qui se multipliaient dans l'entreprise à l'insu des TI. Sauf que cette fois, les fichiers prennent des décisions et s'exécutent tout seuls.

Sans ce cadre, la délégation ne se défend ni au comité de direction, ni au comité d'audit, ni devant un incident.

Ce que je vois venir

Je ne demande plus à un dirigeant combien d’agents il a déployés. Je lui demande de me dire, pour chacun, ce qu’il a le droit de décider. La plupart ne peuvent pas.

Ce savoir-faire devient une compétence de gestion, voire exécutive. Dans les mandats que l’on voit, le taux d’erreur d’un agent n’est presque jamais mesuré. Aucun seuil n’est établi formellement. L’autonomie ne monte pas parce qu’une barrière a été atteinte, elle monte parce que plus personne n’a le temps d’approuver et que l’agent a l’air de bien aller. C’est de la gradation par lassitude, pas par preuve.

Et ça se paie déjà. Gartner prévoit que plus de 40 % des projets d’IA agentique seront abandonnés d’ici la fin de 2027, notamment à cause de contrôles de risque inadéquats.

Mon pari, c’est que les organisations qui écrivent leurs seuils maintenant, pendant que leur parc d’agents est encore petit, prendront une avance que les autres mettront des années à combler.

Alors, jusqu’où laisser aller le vôtre ?

Vos modèles et vos plateformes seront remplacés d’ici quelques années, probablement par mieux. Vos seuils, vos responsables nommés et vos journaux d’audit vont rester.

Alors, avant de tendre votre carte de crédit corporative à votre prochain agent, posez-vous les trois questions. 

• 1. Cette décision est-elle réversible ?
  
  
• 2. Jusqu’où vont les dégâts ?
  
  
• 3. Et avez-vous un chiffre pour justifier votre confiance ?
  
  

Si les trois réponses vous rassurent, laissez-le agir. Sinon, restez dans la boucle.

Une dernière chose. Ma question de départ dans mon post portait sur ce qu'on accepte de déléguer. Je la repose ici, autrement : chez vous, quel agent tourne sans savoir qui répond de ses décisions ? 

Établir ces seuils demande du travail. Mais on peut en jaser.

Pour aller plus loin

• 7 risques de sécurité que vos agents IA pourraient causer (et comment les éviter). Ce qui arrive quand aucun niveau de supervision n’est choisi.
  
  
• Nos services en intelligence artificielle. Comment on structure un mandat, de la sélection du cas d’usage à la mise en production.