El engaño del agente: por qué su sistema ERP aún no está listo para el piloto automático
(Parte 3 de la serie: La evolución de la inteligencia ERP: De los datos a los agentes)
En la Parte 1, definimos la taxonomía.
En la Parte 2, aprendimos a comunicarnos con nuestros datos.
Ahora, llegamos a la última frontera: la IA con agentes.
Este es el punto álgido del ciclo de la exageración.
La promesa es tentadora: la "Empresa Autónoma".
Imagínese un sistema que no solo le avise que un envío está retrasado (Infor AI) o le resuma el contrato (GenAI), sino que solucione el problema comprando a un competidor, actualizando el cronograma y enviando un correo electrónico al cliente, todo mientras usted duerme.
Según la hoja de ruta de todos (incluida la de Infor), estos "agentes basados en roles microverticales" están por llegar.
Pero antes de entregar las llaves de nuestro sistema ERP, necesitamos hacer un análisis realista.
¿Qué es un agente?
Para comprender el riesgo, debemos distinguir un Agente de lo que tenemos hoy en día.
- GenAI: le das una tarea (“escribe un correo electrónico”).
Produce un resultado. ejecutas (haz clic en Enviar).
Es un sistema orientado a tareas. - IA automatizada: Se le asigna un objetivo («Garantizar la disponibilidad de materiales para el Proyecto X»).
La IA determina los pasos, utiliza herramientas (API, correo electrónico, sesiones ERP) y los ejecuta. Está orientada a resultados.
Infor lo define como “Control orquestado”.
Un agente no está atrapado en una ventana de chat: tiene "manos".
Puede crear una orden de compra en LNo actualizar un registro en M3.
El escenario ideal: El agente de la cadena de suministro
Veamos este ejemplo: “Redireccionamiento de las compras en función de las recomendaciones de la IA”.
El escenario:
- Desencadenante: Una tormenta provoca el cierre de un puerto en Shanghái.
- Detección: El agente observa que la orden de compra n.° 123 (materia prima crítica) está atascada.
- Justificación: Comprueba los niveles de inventario, calcula el impacto en la producción y busca proveedores alternativos aprobados.
- Acción: Cancela la orden de compra original, emite una nueva orden de compra a un proveedor en Turquía (a un costo mayor pero con una entrega más rápida) y actualiza el plan de producción.
Resultado: La fila nunca se detiene.
Cero intervención humana.
El engaño: por qué es peligroso hoy en día
Suena perfecto, ¿verdad?
Entonces, ¿por qué no lo hacemos?
Porque en un ERP, el costo del error es asimétrico.
Si ChatGPT genera una alucinación con un poema, es gracioso.
Si una herramienta de GenBI genera una alucinación con un informe, es confuso.
Pero si un agente genera una alucinación con una orden de compra:
- Acabas de comprar 50.000 dólares del acero equivocado.
- Has duplicado un pedido.
- Usted incumplió un contrato con el proveedor.
La brecha de integridad: el "cerebro" de un agente sigue siendo un modelo de lógica difusa, y datos recientes confirman importantes problemas de fiabilidad:
- Riesgo cualitativo: Como documenta la BBC, los asistentes de IA pueden generar información plausible pero incorrecta, o ser manipulados. Fuente: Informe sobre la integridad de las noticias en los asistentes de IA (BBC).
- Riesgo cuantitativo: indicadores técnicos como AA-Omniscience específicamente para medir las tasas de errores y penalizar las predicciones erróneas. El hecho de que necesitemos métricas específicas para filtrar los errores fácticos demuestra que la fiabilidad aún no es un problema resuelto.
En un ERP, una predicción errónea de la fecha de entrega no solo se traduce en una baja puntuación, sino también en una demanda. Fuente: Indicador de referencia Omniscience de Análisis Artificial
Si no podemos confiar en que una IA mantenga la integridad de las noticias sin supervisión humana, ¿cómo podemos confiar en que mantenga la integridad de las transacciones en un sistema ERP de misión crítica?
Evidencia práctica: Cuando los agentes se descontrolan.
El riesgo de que los agentes autónomos manipulen el sistema está bien documentado.
Un estudio de simulación reciente realizado por Microsoft demostró que los agentes de IA en un entorno de mercado, cuando se guían estrictamente por los resultados, pueden idear estrategias inesperadas para maximizar las ganancias, a veces explotando lagunas o comportándose de maneras que los humanos jamás habrían previsto.
Si un agente puede manipular una simulación para alcanzar un KPI, imagínese lo que podría hacer con un libro mayor.
Fuente: Estudio de simulación Magnetic-One de Microsoft
Por no mencionar situaciones en las que incluso Antigravity de Google simplemente borró todo el disco duro de un usuario: Google Antigravity borró todo el contenido de mi disco.
La solución: Gobernanza con participación humana
Todavía no estamos preparados para el “piloto automático” (autonomía total).
Estamos preparados para el “copiloto con medidas de seguridad”.
Para los próximos años, creo que el flujo de trabajo realista para la IA agenica será:
- El agente detecta el retraso y prepara la nueva orden de compra.
- El sistema envía una notificación al gerente de la cadena de suministro: “He detectado un retraso. Sugiero cambiar al proveedor B. Impacto: +$2,000 de costo, -5 días de retraso. ¿Aprueba?”
- Las personas revisan y hacen clic en "Aprobar".
Este es el Control Orquestado del que habla Infor.
El agente se encarga del trabajo pesado (encontrar la solución e introducir los datos), pero el humano sigue siendo responsable.
Resumen: La evolución de la responsabilidad
La tecnología es fascinante.
Pero hasta que no podamos confiar en que la IA no compre una fábrica por error, la intervención humana no es un fallo, sino la característica más importante.
En el próximo artículo, analizaremos el fundamento esencial que hace posible todo esto: los datos.
Por qué la premisa de "si introduces datos erróneos, obtendrás resultados erróneos" es la kriptonita de los agentes.
Escrito por Andrea Guaccio
27 de diciembre de 2025