Die KI-Steuer: Was Amazons Ausfall für ERP-Systeme bedeutet

In den letzten Monaten habe ich die grundlegenden Spannungen zwischen generativer KI und starren Unternehmensarchitekturen diskutiert. Diese Woche hat eine wichtige Branchenveranstaltung genau die Dynamik verdeutlicht, die ich mir auch in der Produktion und in IT-Abteilungen von Unternehmen gut vorstellen kann.

Laut einem aktuellen Bericht von CNBChat Amazons Technologie-Führungsteam kürzlich eine interne Sitzung einberufen, um eine Reihe von Website-Ausfällen zu beheben, die den Bezahlvorgang und die Preisanzeige beeinträchtigten. Interne Mitteilungen wiesen auf einen konkreten Faktor hin: KI-gestützte Codeänderungen.

Entwickler hatten generative KI-Tools eingesetzt, um die Codebereitstellung zu beschleunigen und dabei unbeabsichtigt die übliche menschliche Kontrolle und die Sicherheitsvorkehrungen umgangen. Zwar erhöhten die Tools die Bereitstellungsgeschwindigkeit, führten aber auch zu kritischen Fehlern. Daraufhin aktualisierte Amazon seine Protokolle und schrieb vor, dass erfahrene Ingenieure den von weniger erfahrenen Mitarbeitern generierten KI-gestützten Code gründlich überprüfen müssen.

Als ich das las, war die Schlussfolgerung klar: Wenn ein Unternehmen mit Amazons umfassender Erfahrung im Bereich Cloud-Infrastruktur mit solchen operativen Herausforderungen bei nicht verifizierten KI-Ergebnissen konfrontiert wird, müssen wir ernsthaft hinterfragen, wie wir generische KI-Assistenten in komplexe ERP-Systeme für die Fertigung integrieren.

Die KI-Steuer

Diese Situation spiegelt eine umfassendere strukturelle Herausforderung wider, der wir heute in jedem Projekt zur digitalen Transformation begegnen können. Eine aktuelle globale Studie von Workday mit dem Titel „Jenseits der Produktivität: Den wahren Wert von KI messen“ liefert hierzu endlich eine konkrete Zahl und hebt eine Kennzahl hervor, die sie als KI-Steuer bezeichnen : 37 %.

Dem Bericht zufolge werden 37 % der durch den Einsatz von KI eingesparten Zeit anschließend für Nacharbeiten: Korrektur, Prüfung und Überarbeitung fehlerhafter KI-Ergebnisse. Für jede gewonnene Effizienz von 10 Stunden werden fast 4 Stunden für die Überprüfung der generierten Inhalte benötigt.

Die Studie stellt fest, dass nur 14 % der Beschäftigten durch KI dauerhaft positive Ergebnisse erzielen. Meiner Beobachtung nach bedürfen die angestrebten Produktivitätssteigerungen oft einer viel genaueren und kritischeren Prüfung.

Die Prüfungsbelastung für Nachwuchsführungskräfte

Die Daten liefern faszinierende Einblicke in die Personen, die diese zusätzliche Arbeitslast tatsächlich übernehmen. Workday identifizierte eine demografische Gruppe, die sie als „Optimisten mit geringem Ertrag“– überwiegend jüngere Berufstätige (im Alter von 25 bis 34 Jahren), die KI häufig und begeistert nutzen.

Dies verdeutlicht ein Paradoxon, das in der Branche immer häufiger auftritt. Unternehmen stellen Nachwuchskräften oft leistungsstarke Tools zur Verfügung, in der Hoffnung, dass sich deren Leistung auf Senior-Ebene rasch steigert. Doch ohne die operative Erfahrung und das fundierte Urteilsvermögen, die sich über Jahre in der Fehlerbehebung realer Lieferketten entwickelt haben, fällt es weniger erfahrenen Fachkräften naturgemäß schwer, schnell zu erkennen, wenn eine KI eine komplexe Geschäftsregel falsch interpretiert.

Zwar lassen sich erste Entwürfe schnell erstellen, doch muss anschließend viel Zeit und Energie in die sorgfältige Prüfung der Ergebnisse investiert werden, um systematische Fehler zu vermeiden. Im Wesentlichen verlagert die manuelle Überprüfung die Arbeitslast, anstatt sie zu reduzieren. Wie der Fall Amazon zeigt, kann ein mangelndes Verständnis der zugrundeliegenden Architektur dazu führen, dass Logik implementiert wird, die Kernprozesse stört.

Präzision ist nicht verhandelbar

Eine grundlegende Regel muss unseren Umgang mit diesen Werkzeugen bestimmen: Wir sollten generative KI erst nach Abschluss unserer Grundlagenarbeit zur Verfeinerung oder Verbesserung nutzen, niemals aber vorher , um sie von Grund auf neu zu generieren. Dies löst eine gut dokumentierte kognitive Falle aus, die als Automatisierungsbias bekannt ist. Wie aktuelle empirische Studien zur Mensch-KI-Kollaboration aus den Jahren 2024 und 2025 zeigen, neigen menschliche Prüfer bei der Präsentation eines fertigen Maschinenergebnisses instinktiv zu einer oberflächlichen und übereilten Überprüfung und akzeptieren unkritisch Fehler, die sie normalerweise selbst bemerken würden.

Nehmen wir das klassische Beispiel einer physischen Lagerbestandsaufnahme. Wenn man den Nutzern ein Zählblatt zur Verfügung stellt, das bereits die vom ERP-System erwarteten Mengen anzeigt, überspringen sie oft die eigentliche Zählung oder führen sie nur oberflächlich durch, indem sie unbewusst versuchen, ihre Zahlen an den vom System vorgegebenen Wert anzupassen. Wir orientieren uns dabei instinktiv an den Annahmen des Systems.

In Bereichen wie der Content-Erstellung lassen sich KI-generierte Fehler oft schnell beheben. Doch in der Unternehmenslogistik und robusten ERP-Systemen wie Infor LN „gut genug“ keine tragfähige Strategie. Wir verwalten Stücklisten, Cross-Docking-Pläne und strenge Qualitätsmanagement-Parameter. Wenn sich ein Benutzer auf generative KI verlässt, um einen Produktionsablauf zu aktualisieren oder eine Lieferzeit anhand eines fehlerhaften Musters anzupassen, löst dies eine systemische Kettenreaktion aus. Es kann passieren, dass falsche Rohstoffe bestellt oder die Produktion komplett zum Erliegen gebracht wird. In der Lieferkette ist Präzision absolut notwendig. Die Workday-Daten bestätigen meine Beobachtungen aus der Praxis: Nacharbeiten konzentrieren sich stark auf Bereiche, in denen Genauigkeit unerlässlich ist. Bei einem physischen Wareneingang im Lager kann man nicht einfach bluffen.

Minderung der KI-Steuer

Aus meiner Erfahrung bei der Abbildung von Geschäftsprozessen geht es nicht darum, den Einsatz von KI einzuschränken. Vielmehr geht es darum, unsere Belegschaft in Richtung des von Workday so genannten „ Augmented Strategist“– erfahrener Fachkräfte, die KI nutzen, um Datenmuster zu erkennen und die Entscheidungsfindung zu unterstützen, anstatt die Kernaufgaben vollständig zu delegieren. In einem früheren Artikel nannte ich diese Rolle den „Algorithm Auditor“ .

Für Unternehmensleiter, die KI sicher in ihre Betriebsabläufe integrieren möchten, empfehle ich dringend folgende strategische Anpassungen:

1. Die vermeintliche Zeitersparnis sollte neu bewertet werden: Die schnellere Generierung fehlerhafter Daten führt nicht zu einem echten Produktivitätsgewinn. Unternehmen müssen ihre Kennzahlen auf die Messung tatsächlicher Ergebnisse und die Genauigkeit der Erstausbeute ausrichten.
2. Implementieren Sie Protokolle für „Agentenentwicklung“: Erlauben Sie KI niemals, ohne deterministische Schutzmechanismen direkt in zentrale SaaS-Datenbanken zu schreiben. Wie ich in meiner jüngsten Analyse zu den Gefahren autonomer Agenten in ERP-Systemen, ist die Validierung durch Fachexperten, die die praktischen Gegebenheiten Ihres Unternehmens verstehen, weiterhin unerlässlich.
3. Investieren Sie in menschliche Expertise: Anstatt alle durch KI erzielten Kosteneinsparungen in den Ausbau der Technologieinfrastruktur zu investieren, müssen Unternehmen in die Weiterbildung ihrer Mitarbeiter investieren. Der eigentliche operative Engpass liegt nicht in der Generierungsgeschwindigkeit der KI, sondern in der Fähigkeit Ihrer Mitarbeiter, deren Ergebnisse präzise zu überprüfen und zu validieren.
4. Daten-Governance ist unerlässlich: Hochwertige Ergebnisse erfordern hochwertige Eingaben. Sind Ihre bestehenden ERP-Daten unstrukturiert oder veraltet, können KI-Tools das bestehende Datenchaos zwar verarbeiten und skalieren, aber lesen Sie dazu meinen vorherigen Artikel

Die Lehre, die ich persönlich aus den jüngsten Änderungen der Amazon-Protokolle gezogen habe, die menschliche Prüfverfahren wieder eingeführt haben, ist ziemlich offensichtlich. Die Implementierung von KI in nachhaltigen Unternehmen ist keine Massenproduktion. Sie erfordert den Aufbau sicherer, regulierter und hochqualifizierter Strukturen.

Diese Grenzen müssen verschoben werden, man muss selbst aktiv werden und verstehen, dass menschliches Können weiterhin ein entscheidender Faktor für echten Unternehmenswert ist.

Verfasst von Andrea Guaccio 

3. April 2026