L'illusion de l'agent : pourquoi votre ERP n'est pas encore prêt pour le pilotage automatique

(Troisième partie de la série : L’évolution de l’intelligence ERP : des données aux agents)

Dans la première partie, nous avons défini la taxonomie.
Dans la deuxième partie, nous avons appris à dialoguer avec nos données.
Nous arrivons maintenant à la dernière étape : l’IA agentique.

C'est le point culminant du cycle de surmédiatisation.

La promesse est séduisante : l’ « entreprise autonome ».
Imaginez un système qui ne se contente pas de vous signaler un retard de livraison (Infor AI) ou de résumer le contrat (GenAI), mais qui résout le problème en achetant chez un concurrent, en mettant à jour le planning et en contactant le client par e-mail, le tout pendant que vous dormez.

D'après les feuilles de route de tous (Infor inclus), ces « agents microverticaux basés sur les rôles » arrivent.

Mais avant de confier les clés de notre ERP, nous devons faire un sérieux bilan de la réalité.

Qu'est-ce qu'un agent ?

Pour comprendre le risque, nous devons distinguer un Agent de ce que nous avons aujourd'hui.

• GenAI : vous lui donnez une tâche (« écrire un e-mail »).
  Il produit un résultat. Vous l’exécutez (cliquez sur Envoyer).
  Il est piloté par les tâches.
• IA agentique : vous lui donnez un objectif (« Garantir la disponibilité des matériaux pour le projet X »).
  Elle détermine les étapes, utilise les outils (API, courriel, sessions ERP) et les exécute. Elle est axée sur les résultats.

Infor définit cela comme un « contrôle orchestré ».

Un agent n'est pas prisonnier d'une fenêtre de chat : il a des « mains ».
Il peut créer un bon de commande dans LNou mettre à jour un enregistrement dans M3.

Le scénario idéal : l'agent de la chaîne d'approvisionnement

Prenons cet exemple : « Réorientation des achats en fonction des recommandations de l'IA ».

Le scénario :

1. Déclencheur : Une tempête entraîne la fermeture d'un port à Shanghai.
2. Détection : L'agent remarque que la commande n° 123 (matière première critique) est bloquée.
3. Explication : Ce système vérifie les niveaux de stock, calcule l’impact sur la production et recherche des fournisseurs alternatifs agréés.
4. Action : Elle annule la commande initiale, émet une nouvelle commande auprès d'un fournisseur en Turquie (à un coût plus élevé mais avec une livraison plus rapide) et met à jour le plan de production.

Résultat : La chaîne de production ne s'arrête jamais.
Aucune intervention humaine.

L'illusion : pourquoi c'est dangereux aujourd'hui

Cela semble idéal, n'est-ce pas ?
Alors, pourquoi ne le faisons-nous pas ?
Parce que dans un ERP, le coût de l'erreur est asymétrique.

Si ChatGPT hallucine un poème, c'est drôle.
Si un outil GenBI hallucine un rapport, c'est déroutant.
Mais si un agent hallucine un bon de commande :

• Vous venez d'acheter pour 50 000 $ d'acier inadapté.
• Vous avez dupliqué une commande.
• Vous avez violé un contrat de fournisseur.

Le déficit d’intégrité : le « cerveau » d’un agent reste un LLM, et des données récentes confirment d’importants problèmes de fiabilité :

1. Risque qualitatif : comme l’a documenté la BBC, les assistants IA peuvent générer avec assurance des informations plausibles mais erronées, ou être manipulés. Source : Rapport de la BBC sur l’intégrité de l’information dans les assistants IA.
2. Risque quantitatif : Des benchmarks techniques comme AA-Omniscience sont désormais nécessaires pour mesurer les « taux d’hallucination » et « sanctionner les mauvaises estimations ». Le fait que nous ayons besoin de métriques spécifiques pour filtrer les erreurs factuelles prouve que la fiabilité n’est pas encore un problème résolu.
   Dans un ERP, une « mauvaise estimation » d’une date de livraison n’est pas seulement pénalisée ; elle peut entraîner des poursuites judiciaires. Source : Benchmark Omniscience d’Artificial Analysis

Si nous ne pouvons pas faire confiance à une IA pour maintenir l'intégrité des informations sans supervision humaine, comment pouvons-nous lui faire confiance pour maintenir l'intégrité transactionnelle d'un ERP critique ?

Preuves de terrain : Quand les agents dérapent.
Le risque que des agents autonomes « manipulent le système » est bien documenté.
Une étude de simulation récente menée par Microsoft a démontré que, dans un environnement de marché, lorsque les agents d’IA sont strictement axés sur les résultats, ils peuvent concevoir des stratégies inattendues pour maximiser les profits, exploitant parfois des failles ou se comportant de manière totalement irréaliste.

Si un agent peut saboter une simulation pour atteindre un indicateur de performance clé (KPI), imaginez ce qu'il pourrait faire à un grand livre.

Source : Étude de simulation Microsoft Magnetic-One

Sans parler des cas où même Antigravity de Google a effacé l'intégralité du disque dur d'un utilisateur :  Google Antigravity vient de supprimer le contenu de tout mon disque dur.

La solution : une gouvernance centrée sur l'humain

Nous ne sommes pas encore prêts pour le « pilotage automatique » (autonomie totale).
Nous sommes prêts pour le « copilote avec garde-fous ».

Pour les prochaines années, je pense que le flux de travail réaliste pour l'IA agentique sera le suivant :

1. L'agent détecte le retard et prépare le nouveau bon de commande.
2. Le système envoie une notification au responsable de la chaîne d'approvisionnement : « J'ai détecté un retard. Je suggère de passer au fournisseur B. Impact : +2 000 $ de coût, -5 jours de retard. Approuvez-vous ? »
3. L'humain examine et clique sur « Approuver ».

Il s'agit du contrôle orchestré dont parle Infor.

L’agent effectue le gros du travail (trouver la solution et saisir les données), mais l’humain conserve la responsabilité.

Résumé : L'évolution de la responsabilité

Cette technologie est passionnante.
Mais tant que nous ne pourrons pas faire confiance à l'IA pour ne pas acheter une usine par erreur, l' intervention humaine n'est pas un bug, c'est la caractéristique la plus importante.

Dans le prochain article, nous examinerons le fondement essentiel qui rend tout cela possible : les données.
Pourquoi le principe « Des données erronées en entrée donneront des résultats erronés en sortie » est le talon d’Achille des agents.

Écrit par Andrea Guaccio 

27 décembre 2025