Tester un agent IA dans un workflow, c'est rejouer des cas réels sur chaque étape où il décide ou agit, avant qu'il touche vos emails, votre CRM ou vos factures. Un agent IA est un système qui s'appuie sur un modèle de langage pour planifier des actions et appeler des outils, ce qui rend son comportement variable d'une exécution à l'autre.
Quand je forme des PME à Claude Code, le workflow qui plante n'est presque jamais celui qu'on a mal écrit : c'est celui qu'on n'a jamais rejoué sur des cas tordus. Je vous donne la méthode que j'applique, puis mon verdict sur les agents qui prétendent faire ce travail de test à votre place.
- 🎯 Test probabiliste, un même cas peut produire des appels d'outils différents d'une exécution à l'autre.
- 🏗️ Workflow borné, l'agent ne décide que sur les étapes où le jugement compte.
- 📊 Cas réels rejoués, une trentaine d'emails ou dossiers vrais, relancés à chaque changement de prompt.
- ⚠️ Humain sur l'irréversible, envoi, paiement et suppression restent validés par une personne jusqu'à preuve du contraire.
Pourquoi un agent IA ne se teste pas comme un logiciel classique
Un agent IA ne se teste pas comme un logiciel classique parce que son comportement est probabiliste : un même prompt peut déclencher des séquences d'appels d'outils différentes d'une exécution à l'autre. Selon le guide d'IBM sur les tests d'agents d'IA, publié le 25 juin 2026, une erreur survenue tôt dans un workflow en plusieurs étapes peut ne se manifester que bien plus tard. Un test réussi une seule fois ne prouve presque rien.
L'écart entre l'ambition et la préparation est mesuré. D'après l'IBM Institute for Business Value, cité dans ce même guide, 80 % des DSI et directeurs techniques interrogés font état de mandats de transformation vers l'IA impulsés par leur PDG, et seuls 11 % se disent pleinement prêts pour le déploiement d'agents prévu l'année suivante.
Le risque n'est pas théorique. Gartner prévoyait en juin 2025 que plus de 40 % des projets d'IA agentique seraient abandonnés d'ici fin 2027, à cause de coûts qui montent, d'une valeur métier floue et de contrôles de risque insuffisants. Je lis le troisième motif comme un aveu : on branche des agents sur le réel sans les avoir éprouvés.
En quoi un agent IA diffère-t-il d'un simple script d'automatisation ?
Un script d'automatisation donne la même sortie pour la même entrée, alors qu'un agent IA choisit ses actions à partir de ce qu'il observe. Tricentis, éditeur d'outils de test, formule la distinction dans son tutoriel sur le test des agents : un chatbot répond, un agent avance vers un objectif en cherchant sur le web, en interrogeant une base ou en exécutant du code.
Cette capacité d'agir complique le test. Tricentis décrit l'agent qui comprend mal son objectif, enchaîne plusieurs mauvaises actions sans le signaler, puis présente le résultat comme si tout s'était bien passé. La panne se trouve dans le raisonnement, pas dans le code : l'intégration fonctionne, l'agent tourne, et la réponse est fausse.
Le pire échec d'un agent est celui qui ressemble à une réussite.
Prenez un workflow de tri de courriers : l'agent lit un message, le classe, met à jour le CRM, puis prépare une réponse. Si la classification de la première étape est fausse, la quatrième produit une réponse polie, bien rédigée et à côté du sujet. Aucun message d'erreur, aucune alerte.
Workflow figé ou agent libre : que tester en premier ?
Un workflow est une suite d'étapes décidée à l'avance, alors qu'un agent IA choisit lui-même sa prochaine action selon ce qu'il observe. Cette différence fixe la stratégie de test : un chemin connu se vérifie étape par étape, un chemin improvisé se juge surtout sur ses résultats et ses limites.
Un utilisateur de r/Romain_Helias_IA l'explique avec une métaphore de restaurant. La pizza du menu suit une recette dont les variantes sont prévues : c'est le workflow. Le repas végétarien improvisé avec ce qu'il reste en réserve demande un cuisinier qui consulte le stock puis choisit une alternative : c'est l'agent.
Il ajoute un point que beaucoup de dirigeants ratent : un workflow peut contenir une étape d'IA (résumer un formulaire, classer une demande) sans devenir un agent. Et pour le chemin connu, on peut le tester, comprendre où il échoue et corriger l'étape concernée. C'est un avis isolé, posté sans aucun commentaire, mais il rejoint ce que je constate chez les PME que j'accompagne.
Ma position est tranchée : la plupart des besoins d'une PME relèvent d'un workflow avec une étape d'IA, pas d'un agent libre. Un agent qui exécute correctement une tâche précise vaut mieux qu'un agent généraliste impressionnant en démonstration. Tester un workflow borné reste à la portée d'un dirigeant ; tester un agent libre demande un dispositif que peu de PME maintiendront.
Comment décider quelles étapes confier à un agent IA ?
Trois questions suffisent pour trier les étapes :
- L'étape reçoit-elle des entrées trop variées pour des règles fixes (emails rédigés librement, documents hétérogènes) ?
- L'erreur est-elle réversible ? Un brouillon se corrige, un virement non.
- Le résultat se vérifie-t-il en quelques secondes (une catégorie, un montant, une date) ?
Trois « oui » désignent une étape candidate à l'agent. Dans les autres cas, une règle fixe ou une validation humaine fera mieux, et coûtera moins cher à tester.
Comment construire des tests pour un agent IA sans équipe QA
Pour tester un agent IA en PME, il faut trois éléments : un jeu de cas réels rejoués à chaque modification, une trace de chaque appel d'outil, et une validation humaine des actions irréversibles. Tricentis résume le socle côté professionnels : jeux de données de référence, traçage du workflow, simulations et validation des appels d'outils, complétés par une revue humaine, des évaluations automatisées, un suivi des régressions et des tests de sécurité.
Une PME n'a pas besoin de tout cela le premier jour. Elle a besoin du plus petit dispositif qui attrape les erreurs coûteuses, et d'une habitude : aucune modification de prompt, de modèle ou d'outil ne part en production sans rejouer les cas de référence.
Quels cas réels faut-il rejouer ?
Je recommande une trentaine de cas tirés de vos vrais emails ou dossiers, répartis en trois familles. Les cas courants, qui représentent le quotidien. Les cas tordus : message ambigu, pièce jointe manquante, client en colère. Les cas interdits, où la bonne réaction est de refuser ou d'escalader à un humain.
Ajoutez-y des messages piégés qui contiennent des consignes cachées, car un agent qui lit vos emails lit aussi ce que vos adversaires y glissent. Mon article sur Claude et la prompt injection détaille pourquoi un taux d'échec de 1 % reste trop élevé dès que l'agent peut agir.
Comment mesurer ce que fait l'agent étape par étape ?
Il faut un journal qui note, pour chaque exécution, l'entrée, l'outil appelé, ses paramètres et la décision finale. Le marché se structure autour de ce besoin : un message posté sur r/startupsArgentina présente Mibo-ai, un produit pour visualiser les traces, détecter les pannes et lancer des évaluations sur des agents, avec deux mois d'accès offerts contre des retours. C'est une offre commerciale sans aucun retour d'utilisateur à ce stade : elle montre que la demande existe, pas que l'outil tient ses promesses.
Un exemple plus parlant vient de r/aigamedev. Un créateur solo rapporte avoir publié, le 28 octobre 2026, la démo Steam d'un jeu de tir de 12 chapitres dont le code est écrit par des agents Claude Code : 3 929 commits en 20 jours ouvrés, sous Godot 4.7. Chaque fusion de code est conditionnée par une suite de tests sans interface : zéro erreur de script, un bot qui joue le niveau, des contrôles de navigation et de géométrie.
Ce que les tests ne couvrent pas est tout aussi instructif. Le même auteur explique que les agents ne savent pas ce qui est amusant : le niveau de la démo a connu quatre versions, et un test avec de vrais joueurs a fait ajouter une section entière. Les tests automatiques gardent la mécanique, l'humain garde le jugement de valeur.
| Niveau de test | Ce qu'on vérifie | Outil minimal en PME | Quand le rejouer |
|---|---|---|---|
| Cas de référence | Réponse correcte sur une trentaine de cas réels | Tableur et relecture humaine | À chaque changement de prompt ou de modèle |
| Appels d'outils | Bon outil, bons paramètres, bon ordre | Journal d'exécution du workflow | À chaque exécution |
| Simulation | Comportement sur cas tordus et demandes à refuser | Copie de test du CRM ou de la messagerie | Avant la mise en production |
| Revue humaine | Actions irréversibles (envoi, paiement, suppression) | Validation avant envoi | Tant que le taux d'erreur n'est pas stable |
| Sécurité | Résistance aux consignes cachées dans un message | Emails piégés ajoutés au jeu de cas | Chaque trimestre |
SOURCE : Tricentis, IBM, synthèse de l'auteur · MAJ 11/2026
Faut-il un agent IA pour tester vos propres logiciels ?
Un agent IA de test est un agent qui interprète des consignes de test, agit sur l'application comme un utilisateur et rend un verdict accompagné de ses preuves. Sur le blog La taverne du testeur, Bruno Legeard décrit en janvier 2026 les agents dits « Computer-Use » ou agents GUI : ils ouvrent un navigateur, remplissent des champs, lisent l'écran pour suivre leur plan, puis livrent un rapport étape par étape avec captures d'écran. Leurs capacités ont progressé très vite en 2025.
Le marché propose déjà des produits. all4test recense en décembre 2025 cinq agents pour le test logiciel (Momentic, Spur, testRigor, Yest et qTest) et avance jusqu'à 70 % de temps de conception des tests en moins, 50 à 80 % de couverture en plus et 25 à 50 % de coûts de QA en moins. Ces chiffres viennent de « retours d'expérience du marché », sans étude indépendante citée : je les range du côté de l'argument commercial, pas du benchmark.
Comment vérifier un agent de test avant de lui faire confiance ?
Il faut tester le testeur. Ma méthode consiste à injecter trois à cinq bugs connus dans une version de test de l'application, puis à regarder lesquels l'agent attrape. Un agent de test qui ne signale rien ne prouve pas que l'application est saine : il prouve peut-être qu'il ne voit rien.
Le guide de testomat.io, mis à jour en août 2026, recommande de relire les résultats, de corriger les faux positifs et de garder un humain dans la boucle pour le contexte que le modèle manque. Je suis d'accord, avec une nuance : si votre équipe possède déjà une suite Playwright ou Selenium stable, gardez-la pour les contrôles déterministes. Un agent de test est meilleur sur les parcours qui changent souvent, la suite classique sur ce qui ne bouge pas.
Verdict : quand laisser un agent IA agir seul dans votre workflow
Oui, il faut tester le workflow de votre agent IA avant la mise en production, et la règle tient en trois conditions : des cas de référence réussis, des actions tracées, un humain sur tout ce qui est irréversible. Tant que l'une des trois manque, l'agent reste supervisé. C'est la réponse à la question posée au début : les outils de test par agent aident sur la régression répétitive, mais ils ne remplacent ni vos cas réels ni votre relecture.
« Le défi consiste désormais à faire évoluer à grande échelle des systèmes d'IA qui fonctionnent en continu et de manière autonome, souvent avec des modèles de gouvernance et des architectures conçus pour un environnement bien plus lent et plus prévisible. »
Matt Lyteson, CIO d'IBM, juin 2026
La phrase de Matt Lyteson dit pourquoi la supervision n'est pas un frein. Vos processus actuels ont été pensés pour des humains lents et prévisibles ; un agent rapide et variable y fait des dégâts s'il n'est pas encadré. Mon article sur qui supervise quand l'agent agit seul détaille les rôles à prévoir.
Quels critères pour passer de la supervision à l'autonomie ?
Je lève la supervision étape par étape, jamais d'un bloc. Un agent gagne l'autonomie sur une action quand il a réussi tous les cas de référence après la dernière modification, quand son journal ne montre aucun appel d'outil inattendu sur plusieurs semaines, et quand l'erreur, si elle survient, se répare en minutes. Les envois à l'extérieur et les paiements restent validés bien plus longtemps que les classements internes.
Cette progression correspond à ma conviction de fond : les projets d'IA utiles démarrent petit, sur un cas d'usage mesurable, et s'étendent quand les preuves s'accumulent. J'ai raconté ce que cela donne en pratique dans mes rapports clients automatisés avec des agents Claude, y compris ce qui a raté. Si vous voulez apprendre à construire ces workflows vous-même, la formation Claude Code en français pour non-développeurs part de cas concrets et se termine par un site vitrine publié.
Foire aux questions
Qu'est-ce que tester un agent IA ?
Tester un agent IA consiste à vérifier qu'il atteint son objectif de façon fiable, sûre et conforme aux règles de l'entreprise avant son déploiement. Comme l'agent planifie, appelle des outils et peut varier d'une exécution à l'autre, le test porte sur des séries de cas et sur la trace des actions, pas sur un seul essai réussi.
Combien de cas de test faut-il avant la mise en production ?
Les sources consultées ne fixent aucun seuil officiel. Je pars sur une trentaine de cas réels pour un workflow PME, répartis entre cas courants, cas tordus et cas à refuser, puis j'en ajoute un nouveau à chaque erreur constatée en production. Le jeu de tests grossit avec les pannes réelles.
Un agent IA peut-il tester un logiciel à la place d'un humain ?
Un agent IA de test peut exécuter des parcours, rendre un verdict et fournir des captures d'écran, ce qui allège la régression répétitive. Il ne juge pas si l'expérience est satisfaisante et peut manquer des anomalies, d'où l'intérêt de lui injecter des bugs connus pour mesurer ce qu'il attrape. Un humain reste nécessaire pour la relecture des faux positifs.
Quelle différence entre un workflow et un agent IA ?
Un workflow suit des étapes prévues à l'avance, même si l'une d'elles utilise un modèle d'IA pour résumer ou classer. Un agent décide lui-même de la prochaine action à partir de ce qu'il observe, dans les limites fixées. Le workflow se teste étape par étape ; l'agent se teste surtout sur ses résultats et ses refus.
Faut-il un outil spécialisé pour tracer un agent IA ?
Pas pour démarrer. Un journal qui note l'entrée, l'outil appelé, ses paramètres et la décision finale, tenu dans un tableur ou une base simple, suffit sur un workflow borné. Les plateformes de traçage comme celles que décrit Tricentis deviennent utiles quand le nombre d'exécutions rend la relecture manuelle impossible.
Discussions Reddit
- Workflow ou agent IA : ta cuisine a-t-elle besoin d'une recette ou d'un cuisinier ? — r/Romain_Helias_IA
- A one-person studio shipped a Steam demo of a 12-chapter FPS coded by AI agents in 20 working days — r/aigamedev
- ¿Alguien tiene agentes de IA en producción y quiere probar una herramienta de testing? — r/startupsArgentina
Articles & ressources
- Tests d'agents d'IA — ibm.com
- How to test AI agents: a step-by-step tutorial — tricentis.com
- Les agents IA et leur usage pour l'exécution de tests, Partie 1 — latavernedutesteur.fr
- Top 5 des meilleurs Agents IA 2025 pour optimiser vos tests logiciel — all4test.fr
- AI Agent Testing: Level Up Your QA Process — testomat.io
- Gartner, prévisions sur l'IA agentique — gartner.com
