Das KI-ROI-Paradoxon: Warum Generalistenmodelle und veraltete ERP-Systeme Ihr Budget ruinieren werden

Im Oktober 2025 veröffentlichte Deloitte einen Bericht, der bestätigte, was Berater eigentlich schon lange wissen sollten: Unternehmen investieren Milliarden von Dollar in generative künstliche Intelligenz, doch der versprochene Return on Investment bleibt weiterhin aus.

Wir hatten erwartet, dass KI unsere Unternehmenssysteme im Handumdrehen automatisieren und die Betriebskosten drastisch senken würde. Stattdessen sehen sich Führungskräfte mit explodierenden Softwarekosten, ins Stocken geratenen Pilotprojekten und einem deutlichen Mangel an messbarem Geschäftswert konfrontiert. Der Markt ist offensichtlich weiterhin verunsichert, und die jüngste Panik um SaaS-Geschäftsmodelle spiegelt diese tiefe Unsicherheit wider.

Wenn Ihr Unternehmen Schwierigkeiten hat, den ROI Ihrer neuen KI-Initiativen zu erzielen, liegt das Problem nicht im Konzept der künstlichen Intelligenz an sich. Das Problem liegt hauptsächlich auf der Produktionsebene.

Meiner Meinung nach erleben wir derzeit eine massive architektonische Diskrepanz. Unternehmen begehen gleichzeitig zwei Fehler: Sie kaufen die falsche Art von Intelligenz und versuchen, diese in die falsche Software zu integrieren.

Lassen Sie mich Ihnen genau aufzeigen, wo ich sehe, dass Ihr KI-Budget Verluste erleidet, und wie Sie diesen Trend umkehren können, indem Sie Ihren gesamten Ansatz für Unternehmenssysteme überdenken.

Wahnvorstellung vom universellen Gehirn

In meiner jüngsten Erfahrung habe ich einen wiederkehrenden, gefährlichen Instinkt beobachtet: den Drang, den größten und bekanntesten KI-Modellen auf dem Markt hinterherzujagen. Meiner Ansicht nach konzentrieren sich die meisten Menschen ausschließlich auf generalistische große Sprachmodelle (LLM) mit Billionen von Parametern und immer umfassenderen, universellen Fähigkeiten.

Versteht mich nicht falsch, ich denke, diese massiven Generalistenmodelle sind für viele Verbraucheranwendungen unbestreitbar fantastisch.

Meine Vision der Zukunft der Unternehmens-IT sieht jedoch ganz anders aus. In meiner täglichen Arbeit sehe ich immer wieder, dass diese Bereiche völlig andere Fähigkeiten erfordern.

Ich stimme dem KI-Pionier Yann LeCun , wenn er darauf hinweist, dass diese massiven logischen Lernmodelle keinerlei inhärentes Verständnis der physikalischen Welt besitzen. Sie sind lediglich Wahrscheinlichkeitsalgorithmen, die das nächste logische Wort vorhersagen sollen. Meiner Ansicht nach ist es völlig sinnlos, Modelle mit immer mehr Parametern zu entwickeln, wenn man hochspezifische Geschäftslogik ausführen möchte.

Wenn Sie einen Generalisten mit Masterabschluss in Lagerwirtschaft (LLM) bitten, den Materialfluss im Cross-Docking in einem stark frequentierten Lager zu optimieren oder eine mehrstufige Stückliste aufgrund eines plötzlichen Komponentenmangels neu zu berechnen, können Sie sich auf Probleme gefasst machen. Die Antwort mag zwar grammatikalisch einwandfrei und unglaublich selbstsicher klingen, aber ich habe selbst erlebt, wie diese Antwort in der Praxis oft unmöglich umzusetzen oder finanziell katastrophal sein kann.

Ich glaube, der wahre ROI von Unternehmenssoftware liegt nicht in einem umfassenden Allgemeinwissen mit unzähligen Parametern, sondern in hochspezialisierter Expertise.

Die Lösung für diese Ressourcenverschwendung liegt auf der Hand: das Small Language Model (SLM). Ein SLM arbeitet typischerweise mit weniger als 10 Milliarden Parametern und wird mit sorgfältig ausgewählten, qualitativ hochwertigen Datensätzen trainiert. Anstatt nur ein bisschen über alles im Internet zu wissen, ist ein SLM darauf ausgelegt, absolut alles über einen bestimmten Bereich zu wissen.

Wenn ein Unternehmen den Einsatz eines lokalen SLM-Systems erwägt, übernimmt es buchstäblich die Kontrolle über die relevanten Informationen. Ihre vertraulichen Daten verlassen niemals Ihren sicheren Bereich. Sie erhalten Zugriff auf einen hochspezialisierten Agenten, der die physischen und logistischen Gegebenheiten Ihrer spezifischen Abläufe versteht – und das alles bei einem Bruchteil der Rechenleistung und API-Kosten, die von Cloud-Anbietern benötigt werden.

Die Falle des maßgeschneiderten Chassis

Die Anschaffung des richtigen, spezialisierten KI-Modells löst nur die halbe Miete. Der zweite Hauptgrund, warum KI-Einsätze so schwer zu realisieren sind, liegt im Umfeld, in dem diese Intelligenz eingesetzt wird.

Wie ich bereits ausführlich in meinem vorherigen Artikel „Der KI-Killer: Warum fehlerhafte Daten Ihren Agenten ruinieren werden“habe, gibt es eine harte Realität, die die KI in Unternehmen tötet: Man kann keinen hochgetunten Ferrari-Motor in ein verrostetes, dreißig Jahre altes Chassis einbauen und ein Wunder erwarten.

Früher trugen Unternehmen ihre stark individualisierten, lokal installierten ERP-Systeme wie eine Auszeichnung. Heute ist diese extreme Individualisierung ein technologisches Gefängnis, das zwangsläufig mit fehlerhaften Daten gefüllt ist.

Da KI ausschließlich aus historischen Mustern lernt, führt die Fütterung mit zehn Jahren veralteter Daten lediglich dazu, dass sie Ineffizienzen in rasantem Tempo ausnutzt. Dieser Teufelskreis aus unbrauchbaren Daten und katastrophalen Ergebnissen ist genau der Grund, warum Unternehmen hohe Preise für KI-Software zahlen, aber keinerlei Rendite erzielen.

Umsetzbare Erkenntnisse für Unternehmensleiter

Wenn Sie als CEO, CFO oder IT-Leiter mit der Rechtfertigung Ihres aktuellen KI-Budgets oder der Planung Ihrer nächsten ERP-Migration beauftragt sind, finden Sie hier die praktischen Schritte, die Sie unternehmen müssen, um eine messbare Rendite Ihrer Investition zu erzielen.

1. Konvertieren Sie Ihre Kernanpassungen: Behandeln Sie Ihr ERP-System nicht länger wie ein maßgeschneidertes Kleidungsstück. Konvertieren Sie aktiv bestehende Anpassungen in moderne Erweiterungen. KI kann zwar technisch gesehen benutzerdefinierte Tabellen lesen, ihr fehlt jedoch das semantische Vortraining, um Ihre individuellen Felder zu verstehen. Dies führt zu kostspieligen Nachlernzyklen oder Fehlinterpretationen. Indem Sie Ihre benutzerdefinierte Logik in externe, API-gesteuerte Erweiterungen auslagern, bleibt Ihre Kerndatenbank standardisiert und für die KI sofort verständlich.

2. Konzentrieren Sie sich auf kleine Sprachmodelle: Machen Sie sich keine Gedanken mehr darüber, welcher Tech-Gigant diese Woche das Modell mit den meisten Parametern veröffentlicht hat. Beginnen Sie stattdessen mit der Evaluierung von Open-Weight-Modellen, die sich speziell für Ihre Branche optimieren lassen. Berechnen Sie den ROI des Hostings eines SLM in Ihrer eigenen kontrollierten Umgebung (ob auf dedizierter lokaler Hardware oder in einer privaten Cloud-Infrastruktur wie AWS) im Vergleich zu den unvorhersehbaren, wiederkehrenden Kosten für die Anmietung allgemeiner API-Token.

3. Führen Sie eine saubere Datenmigration durch: Bevor Sie ein KI-Pilotprojekt starten, müssen Sie Ihre Daten gründlich bereinigen. Gehen Sie bei der Migration zu einem modernen Cloud-ERP-System konsequent mit Ihren historischen Daten um. Migrieren Sie keine abgeschlossenen Rechnungen der letzten fünfzehn Jahre oder nicht mehr existierende Lieferantencodes. Archivieren Sie diese Informationen in einem separaten Data Lake und nutzen Sie Generative BI, um sie bei Bedarf abzufragen. Übertragen Sie nur Ihre aktiven Stammdaten, offenen Transaktionen und aktuellen Lagerbestände in das neue System. Ein hohes Signal-Rausch-Verhältnis ist die Grundvoraussetzung für präzise KI-Ergebnisse. Wenn Sie tiefer in das Thema einsteigen möchten, beginnen Sie hier: Das Migrationshandbuch.

Mein abschließendes Fazit

Das von Deloitte aufgezeigte ROI-Paradoxon ist ein dringend notwendiger Weckruf für die gesamte Technologiebranche. Es erinnert uns daran, dass der bloße Kauf eines Abonnements für die neueste Trendsoftware ein Unternehmen nicht auf magische Weise in ein autonomes Wirtschaftsunternehmen verwandelt.

Echte Unternehmensintelligenz erfordert tiefgreifende architektonische Disziplin. Der Markt wird zweifellos eine Bereinigung der Unternehmen erleben, die versuchen, ihre veralteten, fehlerhaften Prozesse mit allgemeiner KI zu reparieren. Organisationen hingegen, die die hochspezialisierte Ausrichtung kleiner Sprachmodelle mit der standardisierten Agilität der Cloud-ERP-Erweiterbarkeit kombinieren, werden endlich aufhören, dem Hype hinterherzujagen. Sie werden die Grundlage schaffen, die notwendig ist, um in der Produktion echten, stetig wachsenden Mehrwert zu generieren.

Verfasst von Andrea Guaccio 

28. März 2026