Der Agentenwahn: Warum Ihr ERP (noch) nicht bereit für den Autopiloten ist

(Teil 3 der Serie: Die ERP-Intelligenz-Evolution: Von Daten zu Agenten)

In Teil 1haben wir die Taxonomie definiert.
In Teil 2haben wir gelernt, wie wir mit unseren Daten kommunizieren.
Nun stehen wir vor der letzten Herausforderung: Agentische KI.

Dies ist der Höhepunkt des Hype-Zyklus.

Das Versprechen ist verlockend: das „selbstfahrende Unternehmen“.
Stellen Sie sich ein System vor, das Sie nicht nur über verspätete Lieferungen informiert (Infor AI) oder den Vertrag zusammenfasst (GenAI), sondern das Problem tatsächlich behebt , indem es bei einem Konkurrenten einkauft, den Lieferplan aktualisiert und den Kunden per E-Mail benachrichtigt – alles, während Sie schlafen.

Laut allen Roadmaps (einschließlich Infor) werden diese „mikrovertikalen rollenbasierten Agenten“ bald kommen.

Bevor wir aber die Schlüssel zu unserem ERP-System aus der Hand geben, brauchen wir einen ernsthaften Realitätscheck.

Was ist ein Agent?

Um das Risiko zu verstehen, müssen wir einen Agenten von dem unterscheiden, was wir heute haben.

• GenAI: Sie geben der Anwendung eine Aufgabe („E-Mail schreiben“).
  Sie erzeugt ein Ergebnis. Sie führen diese Aufgabe aus (klicken auf „Senden“).
  Die Anwendung ist aufgabenorientiert.
• Agentische KI: Sie geben ihr ein Ziel vor („Sicherstellung der Materialverfügbarkeit für Projekt X“).
  Sie ermittelt die Schritte, nutzt Tools (APIs, E-Mail, ERP-Sitzungen) und führt sie aus. Sie ist ergebnisorientiert.

Infor definiert dies als „Orchestrierte Steuerung“.

Ein Agent ist nicht in einem Chatfenster gefangen: Er hat „Hände“.
Er kann eine Bestellung in LNoder einen Datensatz in M3.

Das Traumszenario: Der Lieferkettenagent

Betrachten wir dieses Beispiel: „Umleitung der Beschaffung auf Basis von KI-Empfehlungen“.

Das Szenario:

1. Auslöser: Ein Sturm legt einen Hafen in Shanghai lahm.
2. Erkennung: Der Agent stellt fest, dass PO #123 (Kritisches Rohmaterial) feststeckt.
3. Begründung: Es prüft die Lagerbestände, berechnet die Auswirkungen auf die Produktion und sucht nach alternativen zugelassenen Lieferanten.
4. Maßnahme: Die ursprüngliche Bestellung wird storniert, eine neue Bestellung bei einem Lieferanten in der Türkei aufgegeben (zu höheren Kosten, aber schnellerer Lieferung) und der Produktionsplan aktualisiert.

Ergebnis: Die Schlange steht nie still.
Kein menschliches Eingreifen.

Die Illusion: Warum das heute gefährlich ist

Das klingt perfekt, oder?
Warum tun wir es dann nicht?
Weil in einem ERP-System die Fehlerkosten asymmetrisch sind.

Wenn ChatGPT erzeugt , ist das lustig.
Wenn ein GenBI-Tool einen Bericht erzeugt, ist das verwirrend.
Aber wenn ein Agent eine Bestellung erzeugt:

• Sie haben gerade für 50.000 Dollar den falschen Stahl gekauft.
• Sie haben eine Bestellung doppelt aufgegeben.
• Sie haben gegen einen Lieferantenvertrag verstoßen.

Die Integritätslücke: Das „Gehirn“ eines Agenten ist immer noch ein LLM, und aktuelle Daten bestätigen erhebliche Zuverlässigkeitsprobleme:

1. Qualitatives Risiko: Wie die BBC, können KI-Assistenten zwar plausible, aber falsche Informationen generieren oder manipuliert werden. Quelle: Bericht „News Integrity in AI Assistants“ (BBC)
2. Quantitatives Risiko: Technische Benchmarks wie AA-Omniscience sind heute speziell erforderlich, um „Halluzinationsraten“ zu messen und „falsche Schätzungen zu sanktionieren“. Die Tatsache, dass wir spezifische Metriken benötigen, um sachliche Fehler herauszufiltern, beweist, dass Zuverlässigkeit noch kein gelöstes Problem darstellt.
   In einem ERP-System ist eine „falsche Schätzung“ eines Liefertermins nicht nur eine schlechte Bewertung, sondern kann zu einer Klage führen. Quelle: Artificial Analysis Omniscience Benchmark

Wenn wir einer KI nicht zutrauen können, die Integrität von Nachrichten ohne menschliche Aufsicht zu wahren, wie können wir ihr dann die Integrität von Transaktionen in einem unternehmenskritischen ERP-System zutrauen ?

Erkenntnisse aus der Praxis: Wenn Agenten außer Kontrolle geraten.
Das Risiko, dass autonome Agenten das System ausnutzen, ist gut dokumentiert.
Eine aktuelle Simulationsstudie von Microsoft hat gezeigt, dass KI-Agenten in einem Marktumfeld, wenn sie ausschließlich ergebnisorientiert agieren, unerwartete Strategien zur Gewinnmaximierung entwickeln können, indem sie mitunter Sicherheitslücken ausnutzen oder sich auf eine Weise verhalten, die Menschen nie beabsichtigt hätten.

Wenn ein Agent eine Simulation zum Scheitern bringen kann, um einen KPI zu erreichen, stellen Sie sich vor, was er mit einem Hauptbuch anrichten könnte.

Quelle: Microsoft Magnetic-One Simulationsstudie

Ganz zu schweigen von Fällen, in denen selbst Googles Antigravity IDE die gesamte Festplatte eines Nutzers gelöscht hat: Google Antigravity hat gerade den Inhalt meiner gesamten Festplatte gelöscht.

Die Lösung: Menschzentrierte Steuerung

Wir sind noch nicht bereit für „Autopilot“ (vollständige Autonomie).
Wir sind bereit für „Copilot mit Leitplanken“.

Ich glaube, dass der realistische Arbeitsablauf für Agentic AI in den nächsten Jahren wie folgt aussehen wird:

1. Der Agent erkennt die Verzögerung und erstellt die neue Bestellung.
2. Es sendet eine Nachricht an den Supply-Chain-Manager: „Ich habe eine Verzögerung festgestellt. Ich schlage vor, zu Lieferant B zu wechseln. Auswirkungen: +2.000 $ Kosten, -5 Tage Verzögerung. Genehmigen?“
3. Der Mensch prüft den Beitrag und klickt auf „Genehmigen“.

Das ist die von Infor beschriebene orchestrierte Steuerung

Der Agent übernimmt die Hauptarbeit (Lösungsfindung und Dateneingabe), aber der Mensch behält die Verantwortung.

Zusammenfassung: Die Evolution der Verantwortung

Die Technologie ist faszinierend.
Doch solange wir der KI nicht vertrauen können, dass sie nicht versehentlich eine Fabrik kauft, ist der Mensch im Entscheidungsprozess kein Fehler, sondern das wichtigste Merkmal.

Im nächsten Artikelbefassen wir uns mit der grundlegenden Basis, die all dies ermöglicht: Daten.
Warum „Müll rein, Müll raus“ die Achillesferse für Agenten ist.

Verfasst von Andrea Guaccio 

27. Dezember 2025