Podatek od sztucznej inteligencji: co awaria Amazona oznacza dla systemów ERP

W ostatnich miesiącach omawiałem spór między generyczną sztuczną inteligencją a sztywnymi architekturami korporacyjnymi. W tym tygodniu ważne wydarzenie branżowe doskonale zilustrowało dynamikę, jaką z łatwością mogę sobie wyobrazić na halach produkcyjnych i w działach IT w firmach.

Według niedawnego raportu CNBC, kierownictwo działu technologii detalicznych Amazon zwołało niedawno wewnętrzne spotkanie w celu omówienia serii awarii witryny, które wpłynęły na proces realizacji transakcji i wyświetlanie cen. Wewnętrzne notatki wskazywały na konkretny czynnik: zmiany w kodowaniu wspomagane przez sztuczną inteligencję.

Programiści wykorzystali generatywne narzędzia sztucznej inteligencji (AI), aby przyspieszyć wdrażanie kodu, nieumyślnie omijając standardowy nadzór i zabezpieczenia ludzkie. Chociaż narzędzia te przyspieszyły wdrażanie, wprowadziły również krytyczne błędy. W odpowiedzi Amazon zaktualizował swoje protokoły, nakazując starszym inżynierom rygorystyczną weryfikację kodu wspomaganego sztuczną inteligencją, generowanego przez mniej doświadczonych pracowników.

Kiedy to przeczytałem, wniosek był jasny: jeśli firma z tak bogatym doświadczeniem w zakresie infrastruktury chmurowej jak Amazon napotyka na te wyzwania operacyjne przy niezweryfikowanych wynikach sztucznej inteligencji, musimy poważnie zastanowić się nad sposobem, w jaki integrujemy ogólne asystenty sztucznej inteligencji ze złożonymi systemami ERP dla produkcji.

Podatek od sztucznej inteligencji

Ta sytuacja odzwierciedla szersze wyzwanie strukturalne, z którym możemy się spotkać w każdym projekcie transformacji cyfrowej. Niedawne globalne badanie przeprowadzone przez Workday, zatytułowane „Beyond Productivity: Measuring the Real Value of AI”, w końcu przedstawia konkretną liczbę w tym zakresie, podkreślając wskaźnik, który nazywają „ podatkiem od AI”: 37%.

Według raportu, 37% czasu zaoszczędzonego przez pracowników dzięki sztucznej inteligencji (AI) jest następnie przeznaczane na poprawki: korygowanie, audytowanie i przepisywanie błędnych wyników AI. Na każde 10 godzin wzrostu wydajności, prawie 4 godziny są przeznaczane na weryfikację wygenerowanych treści.

Badanie wskazuje, że tylko 14% pracowników konsekwentnie osiąga pozytywne rezultaty netto dzięki sztucznej inteligencji. Z moich obserwacji wynika, że ​​postrzegany wzrost produktywności, do którego dążymy, często wymaga znacznie dokładniejszej i bardziej krytycznej analizy.

Obciążenie audytem profili juniorów

Dane dostarczają fascynujących spostrzeżeń na temat tego, kto faktycznie absorbuje to dodatkowe obciążenie. Workday zidentyfikował grupę demograficzną, którą określa mianem „optymistów o niskim zwrocie”, głównie młodszych specjalistów (w wieku 25–34 lat), którzy często i entuzjastycznie korzystają ze sztucznej inteligencji.

Uwypukla to paradoks, który jest coraz bardziej powszechny w branży. Organizacje często udostępniają zaawansowane narzędzia generatywne profilom juniorów, licząc na szybki wzrost wydajności na stanowiskach kierowniczych. Jednak bez doświadczenia operacyjnego i głębokiej oceny sytuacji, zdobytej przez lata rozwiązywania problemów w rzeczywistych łańcuchach dostaw, mniej doświadczeni specjaliści naturalnie mają trudności z szybką identyfikacją sytuacji, w których sztuczna inteligencja błędnie interpretuje złożoną regułę biznesową.

Choć mogą szybko generować wstępne wersje robocze, wymagają one poświęcenia znacznej ilości czasu i energii na rygorystyczny audyt wyników, aby zapobiec błędom systemowym. Zasadniczo ręczna weryfikacja przenosi obciążenie pracą, a nie je eliminuje. Jak pokazał przypadek Amazon, brak dogłębnego zrozumienia podstawowej architektury może prowadzić do wdrożenia logiki zakłócającej podstawowe procesy.

Precyzja jest nie do negocjacji

Naszym podejściem do tych narzędzi musi rządzić fundamentalna zasada: powinniśmy wykorzystywać sztuczną inteligencję generatywną po zakończeniu prac nad fundamentami, aby ją udoskonalić lub ulepszyć, a nigdy wcześniej , aby tworzyć ją od podstaw. To uruchamia dobrze udokumentowaną pułapkę poznawczą znaną jako błąd automatyzacji. Jak pokazują niedawne badania empiryczne z lat 2024 i 2025 dotyczące współpracy człowieka ze sztuczną inteligencją, gdy maszyna prezentuje gotowy wynik, recenzenci instynktownie dokonują pochopnej, powierzchownej weryfikacji, bezkrytycznie akceptując błędy, które normalnie sami by wyłapali.

Rozważmy klasyczny przykład fizycznego inwentaryzacji w magazynie. Jeśli udostępnisz użytkownikom arkusz inwentaryzacji, który wyświetla aktualne ilości oczekiwane przez system ERP, często pominą oni faktyczne liczenie lub zrobią to powierzchownie, podświadomie starając się dopasować swoje liczby do wartości ustalonych przez system. Naturalnie, domyślnie przyjmujemy założenia maszyny.

W dziedzinach takich jak tworzenie treści, błąd wygenerowany przez sztuczną inteligencję często oznacza szybką naprawę. Jednak w logistyce korporacyjnej i solidnych systemach ERP, takich jak Infor LN, „ wystarczająco dobre” po prostu nie jest realną strategią. Zarządzamy zestawieniami materiałowymi (BOM), harmonogramami przeładunku i rygorystycznymi parametrami zarządzania jakością. Jeśli użytkownik polega na generatywnej sztucznej inteligencji, aby zaktualizować marszrutę produkcji lub dostosować czas realizacji zamówienia na podstawie nieprawidłowego wzorca, uruchamia to systemową reakcję łańcuchową. Może to skończyć się zamówieniem niewłaściwych surowców lub całkowitym zatrzymaniem produkcji. W operacjach łańcucha dostaw precyzja jest absolutnym wymogiem. Dane z Workday potwierdzają moje obserwacje terenowe: poprawki są szczególnie skoncentrowane na stanowiskach, w których dokładność jest nie do negocjacji. Nie da się blefować, przechodząc przez fizyczne przyjęcie magazynowe.

Łagodzenie podatku od sztucznej inteligencji

Bazując na moim doświadczeniu z mapowania przepływów biznesowych, celem nie jest ograniczanie wykorzystania sztucznej inteligencji. Chodzi o to, aby nasza kadra przeszła w kierunku, jak to określa Workday, tzw. Augmented Strategistnazwałem to „Algorithm Auditor” W poprzednim artykule

Liderom firm, którzy chcą bezpiecznie zintegrować sztuczną inteligencję ze swoimi działaniami, gorąco polecam następujące strategiczne zmiany:

1. Przeanalizuj ponownie zaoszczędzone godziny: szybsze generowanie niepoprawnych danych nie przekłada się na prawdziwy wzrost produktywności. Organizacje muszą przesunąć swoje wskaźniki w kierunku pomiaru rzeczywistych rezultatów i dokładności „wydajności pierwszego podejścia”.
2. Wdrażaj protokoły „inżynierii agentów”: nigdy nie pozwalaj sztucznej inteligencji na bezpośredni zapis do baz danych SaaS bez deterministycznych zabezpieczeń. Jak podkreśliłem w mojej niedawnej analizie zagrożeń związanych z autonomicznymi agentami w systemach ERP, walidacja przez ekspertów merytorycznych, którzy rozumieją fizyczne realia Twojej firmy, pozostaje absolutnie niezbędna.
3. Inwestuj w kompetencje ludzkie: zamiast przeznaczać wszystkie oszczędności wynikające z AI na dalszą infrastrukturę technologiczną, firmy muszą inwestować w szkolenia pracowników. Prawdziwym wąskim gardłem operacyjnym nie jest szybkość generacji AI, ale zdolność pracowników do dokładnego analizowania i weryfikowania jej wyników.
4. Utrzymuj zarządzanie danymi: wysoka jakość wyników wymaga wysokiej jakości danych wejściowych. Jeśli Twoje dotychczasowe dane ERP są nieustrukturyzowane lub nieaktualne, narzędzia AI po prostu przetworzą i skalują istniejący chaos. Przeczytaj mój poprzedni artykuł, jeśli chcesz dowiedzieć się więcej.

Lekcja, którą osobiście wyciągnąłem z niedawnych zmian w protokołach Amazon, które przywróciły procedury weryfikacji przez ludzi, jest dość oczywista. Wdrożenie sztucznej inteligencji w zrównoważonych przedsiębiorstwach nie polega na generowaniu dużej ilości. Wiąże się to z budowaniem bezpiecznych, regulowanych i wysoko wykwalifikowanych struktur.

Trzeba te granice przesuwać, trzeba się tym zająć i zrozumieć, że ludzkie mistrzostwo nadal jest kluczowym elementem prawdziwej wartości przedsiębiorstwa.

Napisane przez Andreę Guaccio 

3 kwietnia 2026 r